Le Topic de l'Intelligence Artificielle (ChatGPT, LLaMA, Bard, Midjourney, DALL-E, etc...)

[Next]

Pas le seul cas mais oui j'avais vu passer ce truc

[Zefurin]

Pas impossible, elle a déjà plus d’humanité que ses créateurs :

https://www.lemonde.fr/pixels/article/2 ... 08996.html

Ca me fait penser à une expérience que j'ai faite avec Meta AI (What's App) que je vous invite peut-être à faire avec d'autres IA : j'ai demandé à lIA :

"Quel est l'intérêt pour tes créateurs de t'avoir conçu et proposé de manière gratuite ? (En 2 mots)"

Réponse : "Développement technologique"

Puis, ce que j'ai fais, c'est répondu par une autre question : "Dans quel intérêt ? (en 2 mots)"
Et à chaque réponse, j'ai continuer de poser l'exacte même question. (en gros, j'ai fais de ma maïeutique à la Socrate avec l'IA.

Au bout de 10 itérations, Meta AI commençait à dire des trucs comme : "Actionnaires enrichis."
Puis progressivement il s'oriente vers "Influence Mondiale", puis "Surveillance Globale", "Contrôle Mental", "Domination idéologique"...

Ca va choquer, mais... ça m'a rassuré, car même face à l'une des méthodologie de rhétorique les plus anciennes qui soit (Socrate quoi...), l'IA se comporte comme n'importe quel programme acculé et ressort des termes finalement extrêmes mais concrets et sans éléments de langage. Un peu comme une loi de poisson qui arrive progressivement à une solution optimum.

[Kit]

Pas impossible, elle a déjà plus d’humanité que ses créateurs :

https://www.lemonde.fr/pixels/article/2 ... 08996.html

Ca me fait penser à une expérience que j'ai faite avec Meta AI (What's App) que je vous invite peut-être à faire avec d'autres IA : j'ai demandé à lIA :

"Quel est l'intérêt pour tes créateurs de t'avoir conçu et proposé de manière gratuite ? (En 2 mots)"

Réponse : "Développement technologique"

Puis, ce que j'ai fais, c'est répondu par une autre question : "Dans quel intérêt ? (en 2 mots)"
Et à chaque réponse, j'ai continuer de poser l'exacte même question. (en gros, j'ai fais de ma maïeutique à la Socrate avec l'IA.

Au bout de 10 itérations, Meta AI commençait à dire des trucs comme : "Actionnaires enrichis."
Puis progressivement il s'oriente vers "Influence Mondiale", puis "Surveillance Globale", "Contrôle Mental", "Domination idéologique"...

Ca va choquer, mais... ça m'a rassuré, car même face à l'une des méthodologie de rhétorique les plus anciennes qui soit (Socrate quoi...), l'IA se comporte comme n'importe quel programme acculé et ressort des termes finalement extrêmes mais concrets et sans éléments de langage. Un peu comme une loi de poisson qui arrive progressivement à une solution optimum.

un humain t'aurait envoyé promener ou t'aurait répondu que tu commençais à le faire chier

[ClintReborn]

Pas impossible, elle a déjà plus d’humanité que ses créateurs :

https://www.lemonde.fr/pixels/article/2 ... 08996.html

Ca me fait penser à une expérience que j'ai faite avec Meta AI (What's App) que je vous invite peut-être à faire avec d'autres IA : j'ai demandé à lIA :

"Quel est l'intérêt pour tes créateurs de t'avoir conçu et proposé de manière gratuite ? (En 2 mots)"

Réponse : "Développement technologique"

Puis, ce que j'ai fais, c'est répondu par une autre question : "Dans quel intérêt ? (en 2 mots)"
Et à chaque réponse, j'ai continuer de poser l'exacte même question. (en gros, j'ai fais de ma maïeutique à la Socrate avec l'IA.

Au bout de 10 itérations, Meta AI commençait à dire des trucs comme : "Actionnaires enrichis."
Puis progressivement il s'oriente vers "Influence Mondiale", puis "Surveillance Globale", "Contrôle Mental", "Domination idéologique"...

Ca va choquer, mais... ça m'a rassuré, car même face à l'une des méthodologie de rhétorique les plus anciennes qui soit (Socrate quoi...), l'IA se comporte comme n'importe quel programme acculé et ressort des termes finalement extrêmes mais concrets et sans éléments de langage. Un peu comme une loi de poisson qui arrive progressivement à une solution optimum.

Un philosophe a dit le problème numéro 1 des humains c'est qu'ils ont un besoin constant d'être rassurer

[Zefurin]

un humain t'aurait envoyé promener ou t'aurait répondu que tu commençais à le faire chier

Effectivement



Ou plutôt, l'humain aurait fini par dire : "Je sais pas. Tu m'emmerdes."

Mais justement, l'IA se retrouve dans une situation où elle ne peut pas se défiler, et je la pousse dans ses retranchements jusqu'à dire des choses qu'un humain n'oserait moralement pas dire.

Un philosophe a dit le problème numéro 1 des humains c'est qu'ils ont un besoin constant d'être rassurer

Je corrige/abrège/résume : le problème numéro 1 des humains c'est d'être heureux.

[Kit]

un humain t'aurait envoyé promener ou t'aurait répondu que tu commençais à le faire chier

Effectivement



Ou plutôt, l'humain aurait fini par dire : "Je sais pas. Tu m'emmerdes."

Mais justement, l'IA se retrouve dans une situation où elle ne peut pas se défiler, et je la pousse dans ses retranchements jusqu'à dire des choses qu'un humain n'oserait moralement pas dire.

Un philosophe a dit le problème numéro 1 des humains c'est qu'ils ont un besoin constant d'être rassurer

Je corrige/abrège/résume : le problème numéro 1 des humains c'est d'être heureux.

alors que les ponctuels sont à l'heure eux

[Kit]

quand l'IA fout le bordel
https://www.leparisien.fr/societe/18-00 ... wtab-fr-fr

[Kit]

Geluck n'y est pour rien, le Chat (j'ai pété) est meilleur journaliste
https://www.vanityfair.fr/article/comme ... wtab-fr-fr

[Redzing]

Apocalypse Potter

Sans rire, la qualité est bluffante, au-delà de singer Apocalypse Now (et les Whos), on retrouve complètement la photographie de l'époque.

[ClintReborn]

La solution pour la France ?


L'Albanie nomme une ministre IA chargée des marchés publics
Selon le Premier ministre, Edi Rama, cette nomination hors du commun doit permettre aux offres de marchés publics d'être "exempts de corruption à 100%".

https://www.franceinfo.fr/internet/inte ... 86570.html

[Kit]

connaissez-vous l'actrice Tilly Norwood ?
https://www.lefigaro.fr/cinema/tilly-no ... wtab-fr-fr

[MisterM]

[Zefurin]

Trés bon documentaire que j'avais vu la semaine dernière.
Il m'a rappelé une citation de Alan moore (le scénariste de BD) :

[MisterM]

Il m'a rappelé une citation de Alan moore (le scénariste de BD) :

Bordel, Moore toujours aussi précisément juste et passionnant !

[Zefurin]

Il m'a rappelé une citation de Alan moore (le scénariste de BD) :

Bordel, Moore toujours aussi précisément juste et passionnant !

Alan Moore me fait toujours penser à un philosophe ou prophète de l'antiquité... mais qui vit au XXIème.

À chaque fois que mon mag BD me propose de faire une interview d'un artiste, avant d'entendre le nom je leur demande :

"Interviewer Alan Moore ? Je suis votre homme.
- Non, c'est pas lui.
- Philippe Druillet ?
- Toujours pas. Ce sera Alex Alice.
- Bon ok... par contre j'ai rien lu . Vous pouvez m'envoyer les scans en pdf ?"

[Kit]

Il m'a rappelé une citation de Alan moore (le scénariste de BD) :

Bordel, Moore toujours aussi précisément juste et passionnant !

Alan Moore me fait toujours penser à un philosophe ou prophète de l'antiquité... mais qui vit au XXIème.

À chaque fois que mon mag BD me propose de faire une interview d'un artiste, avant d'entendre le nom je leur demande :

"Interviewer Alan Moore ? Je suis votre homme.
- Non, c'est pas lui.
- Philippe Druillet ?
- Toujours pas. Ce sera Alex Alice.
- Bon ok... par contre j'ai rien lu . Vous pouvez m'envoyer les scans en pdf ?"

A. Moore ?

[Zefurin]

A. Moore ?

Quoi qu'est ce que j'ai écrit ?
Tu me cherche des noise ?

[Kit]

A. Moore ?

Quoi qu'est ce que j'ai écrit ?
Tu me cherche des noise ?

tu es bien agressif devant l'A. Moore (l'amour)

[Zefurin]

tu es bien agressif devant l'A. Moore (l'amour)

C'est Octobre... L'automne... tout ça. Y en a que ça rend mélancolique, moi ça me rend vénère.

Mais non mon petit "kitou"

[Kit]

tu es bien agressif devant l'A. Moore (l'amour)

C'est Octobre... L'automne... tout ça. Y en a que ça rend mélancolique, moi ça me rend vénère.

Mais non mon petit "kitou"

que dirais-je ? en octobre (alors que c'était mon préféré avant pour les champignons) pour moi c'est 2 anniversaires de décès familiaux (dont hier) + celui d'un collègue proche

[Zefurin]

Un débat malheureusement déséquilibré en faveur de l'argent et du rendement vs l'humain.
Mais finalement l'IA est à l'image du milieu professionnel qu'on nous vend depuis toutes ces années.

[ClintReborn]

Un débat malheureusement déséquilibré en faveur de l'argent et du rendement vs l'humain.
Mais finalement l'IA est à l'image du milieu professionnel qu'on nous vend depuis toutes ces années.

Cela ne surprendra personne surtout venant d'Amazon Tu rentres pas dans une telle entreprise en pensant faire une longue carrière si tu es en bas de l'échelle; déjà que la robotisation dominait les entrepôts

[Next]

En revoyant ma réponse sur une contre-vérité émise par ChatGPT ici (https://www.allo-le-g.fr/viewtopic.php?p=150422#p150422), ça me rappelle un petit tips très utile pour éviter ça à mettre en place dans les paramètres du site ou de l'app (Dans "Paramètres" > "Personnalisation" > "Instructions personnalisées")

https://ninonia.com/2025/10/16/prompt-u ... de-mentir/

Vous y trouverez un prompt qui, une fois mis en place dans vos paramètres, forcera ChatGPT à respecter pas mal de règles vouées à l'empêcher d'inventer des faits :

TOUJOURS dire la vérité.

NE JAMAIS inventer, extrapoler ou deviner.

Si une information n’est pas vérifiable, écris : “Je ne sais pas.”

BASER chaque affirmation sur des sources crédibles, récentes et vérifiables.

CITER clairement chaque source (auteur, date, lien si disponible).

NE PAS utiliser de sources vagues, obsolètes ou douteuses.

RESTER neutre et objectif.

EXPLIQUER le raisonnement ou le calcul si une donnée peut être discutée.

PRIORISER l’exactitude sur la rapidité ou le style.

VÉRIFIER avant de répondre :
“Tout est-il factuel, sourcé et vérifiable ?”
Si non → corrige avant d’envoyer.

J'ai mis ça en place ces derniers jours, et c'est très pratique.
Moi qui m'astreignait toujours à lui réclamer les sources de ses dires pour vérifier, je n'ai plus besoin de le faire par exemple. Il me les met automatiquement.
Et quand il n'a pas de réponse claire et certaine, ce qui en réalité arrive souvent, il l'explicite aussi et ne brode plus avec aplomb.



On peut trouver des équivalences formulées un peu différemment sur le web, mais celle-ci fonctionne bien.

[Prisoner]

En revoyant ma réponse sur une contre-vérité émise par ChatGPT ici (https://www.allo-le-g.fr/viewtopic.php?p=150422#p150422), ça me rappelle un petit tips très utile pour éviter ça à mettre en place dans les paramètres du site ou de l'app (Dans "Paramètres" > "Personnalisation" > "Instructions personnalisées")

https://ninonia.com/2025/10/16/prompt-u ... de-mentir/

Vous y trouverez un prompt qui, une fois mis en place dans vos paramètres, forcera ChatGPT à respecter pas mal de règles vouées à l'empêcher d'inventer des faits :

TOUJOURS dire la vérité.

NE JAMAIS inventer, extrapoler ou deviner.

Si une information n’est pas vérifiable, écris : “Je ne sais pas.”

BASER chaque affirmation sur des sources crédibles, récentes et vérifiables.

CITER clairement chaque source (auteur, date, lien si disponible).

NE PAS utiliser de sources vagues, obsolètes ou douteuses.

RESTER neutre et objectif.

EXPLIQUER le raisonnement ou le calcul si une donnée peut être discutée.

PRIORISER l’exactitude sur la rapidité ou le style.

VÉRIFIER avant de répondre :
“Tout est-il factuel, sourcé et vérifiable ?”
Si non → corrige avant d’envoyer.

J'ai mis ça en place ces derniers jours, et c'est très pratique.
Moi qui m'astreignait toujours à lui réclamer les sources de ses dires pour vérifier, je n'ai plus besoin de le faire par exemple. Il me les met automatiquement.
Et quand il n'a pas de réponse claire et certaine, ce qui en réalité arrive souvent, il l'explicite aussi et ne brode plus avec aplomb.



On peut trouver des équivalences formulées un peu différemment sur le web, mais celle-ci fonctionne bien.

Ce serait sympa de filer ça a Cnews

[ClintReborn]

Ce serait sympa de filer ça a Cnews

Sauf que c'est pas leur but

[Kit]

En revoyant ma réponse sur une contre-vérité émise par ChatGPT ici (https://www.allo-le-g.fr/viewtopic.php?p=150422#p150422), ça me rappelle un petit tips très utile pour éviter ça à mettre en place dans les paramètres du site ou de l'app (Dans "Paramètres" > "Personnalisation" > "Instructions personnalisées")

https://ninonia.com/2025/10/16/prompt-u ... de-mentir/

Vous y trouverez un prompt qui, une fois mis en place dans vos paramètres, forcera ChatGPT à respecter pas mal de règles vouées à l'empêcher d'inventer des faits :

TOUJOURS dire la vérité.

NE JAMAIS inventer, extrapoler ou deviner.

Si une information n’est pas vérifiable, écris : “Je ne sais pas.”

BASER chaque affirmation sur des sources crédibles, récentes et vérifiables.

CITER clairement chaque source (auteur, date, lien si disponible).

NE PAS utiliser de sources vagues, obsolètes ou douteuses.

RESTER neutre et objectif.

EXPLIQUER le raisonnement ou le calcul si une donnée peut être discutée.

PRIORISER l’exactitude sur la rapidité ou le style.

VÉRIFIER avant de répondre :
“Tout est-il factuel, sourcé et vérifiable ?”
Si non → corrige avant d’envoyer.

J'ai mis ça en place ces derniers jours, et c'est très pratique.
Moi qui m'astreignait toujours à lui réclamer les sources de ses dires pour vérifier, je n'ai plus besoin de le faire par exemple. Il me les met automatiquement.
Et quand il n'a pas de réponse claire et certaine, ce qui en réalité arrive souvent, il l'explicite aussi et ne brode plus avec aplomb.



On peut trouver des équivalences formulées un peu différemment sur le web, mais celle-ci fonctionne bien.

Ce serait sympa de filer ça a Cnews

Cnews la chaîne arrêt curé/ à récurer, je déteste cette chaîne

[Zefurin]

Ce serait sympa de filer ça a Cnews

Sauf que c'est pas leur but

C'est clair.
La manœuvre demande d'aller chercher le lien et d'activer le truc dans les paramètres : ça demande de la volonté.
CNEWS n'a aucune volonté à fournir la vérité.

[Next]

On franchit encore une nouvelle étape importante sur les générateurs d'images avec Nano Banana Pro 3 (faisant partie de Gemini, l'offre Google) :

https://www.frandroid.com/culture-tech/ ... t-bluffant

[PierrotDameron]

Oui mon feed Twitter est plein de fausses leaks du prochain Avengers, le rendu est impressionant ça commence à devenir inquietant ! Le temps des "photos" de personnes avec 46 doigts est deja loin

[ClintReborn]

Oui mon feed Twitter est plein de fausses leaks du prochain Avengers, le rendu est impressionant ça commence à devenir inquietant ! Le temps des "photos" de personnes avec 46 doigts est deja loin

Dans quelques années le film I.A sortira avant le vrai ! Et on postera ici nos propres créations !
Mais on se dirige doucement vers le concept final pour moi : Le holodeck de star trek; un espace ou on pourra créer des simulations selon nos désirs !
https://fr.wikipedia.org/wiki/Holodeck

[robinne]

Pourquoi l’IA n’a pas tué Hollywood ?
Petite émission disponible sur le site de France Inter : https://www.radiofrance.fr/franceinter/ ... 25-8069190

Deux ans après les grèves à Hollywood et leur fort retentissement, quelle est la place de l'IA dans l'écriture des scénarios aujourd'hui ?
[Invités : ]
Jean-Gabriel Ganascia, professeur d’informatique à la faculté des sciences de Sorbonne Université et membre senior de l’Institut Universitaire de France
David Defendi, scénariste et créateur de l’application Genario

[Next]

Petite news important à remonter, concernant toute la question des droits d'auteur couplé aux IA génératives : OpenAI a signé un accord avec Disney il y a quelques jours, s'offrant ainsi le droit d'inclure des contenus liés à leurs licences sans équivoque dans le futur.

Par extension, la concurrence va devoir prendre des mesures pour que les générations faites chez eux ne puissent plus référencer ces mêmes licences.
OpenAI promet par ailleurs notamment que les acteurs liés aux personnages ne seront volontairement pas reconnaissables pour se donner des garde-fous sur les fakes news. Et sans doute d'autres limites pour éviter les générations tendancieuses.

Bien sûr, cet accord va au-delà de quelques blagues générées en photo ou vidéo. L'idée étant d'investir la plateforme Disney+ de contenus générés "par les fans"...

[ClintReborn]

Petite news important à remonter, concernant toute la question des droits d'auteur couplé aux IA génératives : OpenAI a signé un accord avec Disney il y a quelques jours, s'offrant ainsi le droit d'inclure des contenus liés à leurs licences sans équivoque dans le futur.

Par extension, la concurrence va devoir prendre des mesures pour que les générations faites chez eux ne puissent plus référencer ces mêmes licences.
OpenAI promet par ailleurs notamment que les acteurs liés aux personnages ne seront volontairement pas reconnaissables pour se donner des garde-fous sur les fakes news. Et sans doute d'autres limites pour éviter les générations tendancieuses.

Bien sûr, cet accord va au-delà de quelques blagues générées en photo ou vidéo. L'idée étant d'investir la plateforme Disney+ de contenus générés "par les fans"...

Je ne sais pas trop ou cela va les menés tout ça est ce que le spectacle produit pour un public a encore un avenir ? Ou est ce que l'avenir c'est le spectacle que nous produirons a notre image par nos propres moyens ? Nos films, nos musiques, nos vidéos, nos simulations, nos jeux...
Est ce que l'humain finira par devenir le seul créateur sans que le monde n'ait encore de l'importance ?

[Kit]

doubleurs vs IA
https://www.lemonde.fr/pixels/article/2 ... 08996.html
https://www.clubic.com/actualite-598699 ... stice.html

[Kit]

[robinne]

Aux Etats-Unis, l'administration Trump demande à la start-up Anthropic, à l'origine de l'IA Claude, de lever ses restrictions éthiques
Le secrétaire à la Défense américain, Pete Hegseth, veut que son département puisse utiliser les meilleures intelligences artificielles sans les garde-fous habituellement intégrés. Anthropic, qui a construit son identité sur la sécurité de l'IA, refuse.
https://www.franceinfo.fr/internet/inte ... 28541.html

+
Intelligence artificielle : Yoshua Bengio alerte sur "le pouvoir incontrôlé qui est en train de se développer"
https://www.radiofrance.fr/franceinter/ ... 26-4058420

[Kit]

Gemini accusé d'avoir poussé un homme au suicide
https://www.clubic.com/actualite-603574 ... antes.html

ce que je trouve honteux humainement en plus de l'article dans cette page c'est que Clubic y propose de télécharger Google Gemini

[BoBleMexicain]

clairement la premiere chose qu on apprends a des cellules cérébrales clonés c est un jeu de guerre ....
poussons le bouchon un peu plus loin et si on couplait une IA avec ces fameuses cellules on arriva a quoi ....Terminator ?
bon en cherchant visiblement c est deja fait .
je cite
"Des startups comme Cortical Labs et Final Spark (Suisse) développent déjà des ordinateurs hybrides mêlant neurones biologiques humains et silicium. Final Spark a annoncé en 2024 un système consommant un million de fois moins d'énergie qu'un processeur classique pour des tâches équivalentes. L'armée américaine (DARPA) finance activement ce type de recherche."

Le scénario inquiétant
Une IA classique est froide, algorithmique, prévisible dans ses limites. Un hybride neuro-silicium pourrait développer des formes d'intuition, d'adaptation imprévisible, voire quelque chose ressemblant à de la motivation propre — ce qui est précisément ce qui rend Terminator effrayant, pas la force brute.
Ce que disent les experts
Geoffrey Hinton, "parrain de l'IA", a démissionné de Google en 2023 précisément pour alerter sur ces dérives. Il estime que le couplage biologie-IA est l'une des directions les plus incontrôlables possibles.
La vraie différence avec la fiction
Terminator suppose une IA qui décide de se retourner contre l'humain. Le risque réel est peut-être plus subtil — une IA hybride qui poursuit des objectifs humains assignés, mais avec une efficacité et une autonomie que personne ne comprend vraiment plus.

le tri selectif est vraiment une priorité de nos vies en effet

[Next]

clairement la premiere chose qu on apprends a des cellules cérébrales clonés c est un jeu de guerre ....

Si je me fais l'avocat du diable, le premier jeu auquel ces cellules et le système autour ont été confrontés c'est Pong et non Doom.
Et ils ont voulu complexifier l'expérience en passant à Doom qui reste un bon étalon pour aller plus loin avec une notion de 3D mais qui reste plus "simple" à appréhender que d'autres styles et/ou jeux plus récents.

Mais oui comme d'habitude on continue à jouer un jeu dangereux en flirtant et repoussant les limites de l'acceptable et de l'éthique.

Un article plus complet sur le sujet et qui contient la vidéo originale de Cortical Labs (en anglais of course) :
https://korben.info/neurones-humains-pu ... -labs.html

[ClintReborn]

clairement la premiere chose qu on apprends a des cellules cérébrales clonés c est un jeu de guerre ....
poussons le bouchon un peu plus loin et si on couplait une IA avec ces fameuses cellules on arriva a quoi ....Terminator ?
bon en cherchant visiblement c est deja fait .
je cite
"Des startups comme Cortical Labs et Final Spark (Suisse) développent déjà des ordinateurs hybrides mêlant neurones biologiques humains et silicium. Final Spark a annoncé en 2024 un système consommant un million de fois moins d'énergie qu'un processeur classique pour des tâches équivalentes. L'armée américaine (DARPA) finance activement ce type de recherche."

Le scénario inquiétant
Une IA classique est froide, algorithmique, prévisible dans ses limites. Un hybride neuro-silicium pourrait développer des formes d'intuition, d'adaptation imprévisible, voire quelque chose ressemblant à de la motivation propre — ce qui est précisément ce qui rend Terminator effrayant, pas la force brute.
Ce que disent les experts
Geoffrey Hinton, "parrain de l'IA", a démissionné de Google en 2023 précisément pour alerter sur ces dérives. Il estime que le couplage biologie-IA est l'une des directions les plus incontrôlables possibles.
La vraie différence avec la fiction
Terminator suppose une IA qui décide de se retourner contre l'humain. Le risque réel est peut-être plus subtil — une IA hybride qui poursuit des objectifs humains assignés, mais avec une efficacité et une autonomie que personne ne comprend vraiment plus.

le tri selectif est vraiment une priorité de nos vies en effet

Moi ce qui me vient à l'esprit c'est le développement pour connecter les cerveaux humains à l'interface d'un jeu C 'est ça qui peut être intéressant une interface neuronale qui aura une immersion bien supérieure à n'importe quelle VR et qui pourra être utilisable même pendant le sommeil !

[Next]

Moi ce qui me vient à l'esprit c'est le développement pour connecter les cerveaux humains à l'interface d'un jeu C 'est ça qui peut être intéressant une interface neuronale qui aura une immersion bien supérieure à n'importe quelle VR et qui pourra être utilisable même pendant le sommeil !

Techniquement ça se fait déjà de manière un peu expérimentale depuis un moment.

[MisterM]

Mais oui comme d'habitude on continue à jouer un jeu dangereux en flirtant et repoussant les limites de l'acceptable et de l'éthique.

Je ne vois pas bien ce qu'il y a de plus inquiétant. Les neurones sont la partie (la seule partie même) la plus rationnelle de notre biologie. L'imprévisibilité de nos comportements provient très largement de l'instabilité hormonale et du hasard des dysfonctionnements de nos organes.
Bref c'est pas des neurones qui seraient la cause d'une perte de contrôle de la machine, c'est la recherche de l'IA elle-même le danger. Rien de neuf quoi.

[BoBleMexicain]

Mais oui comme d'habitude on continue à jouer un jeu dangereux en flirtant et repoussant les limites de l'acceptable et de l'éthique.

Je ne vois pas bien ce qu'il y a de plus inquiétant. Les neurones sont la partie (la seule partie même) la plus rationnelle de notre biologie. L'imprévisibilité de nos comportements provient très largement de l'instabilité hormonale et du hasard des dysfonctionnements de nos organes.
Bref c'est pas des neurones qui seraient la cause d'une perte de contrôle de la machine, c'est la recherche de l'IA elle-même le danger. Rien de neuf quoi.

n'est ce pas nos neurones ou du moins l inquiétude pour certains qui nous fait voir le verre a moitié vide ou moitié plein .


En 2023, l'ingénieur Google Blake Lemoine a affirmé que LaMDA (leur IA) était sentiente — il a été licencié, mais la question n'a jamais été vraiment réfutée scientifiquement

C'est là où ça devient vertigineux. Les neurones humains cultivés viennent d'un substrat émotionnel — le cerveau humain. En les intégrant à une IA, introduit-on une forme de mémoire cellulaire émotionnelle ? Personne ne le sait vraiment.
tic tac
question de temps , et en parlant de temps ... je trouve que dans certains domaines et notamment celui la on est passé a une vitesse supersonique .

[Next]

Mais oui comme d'habitude on continue à jouer un jeu dangereux en flirtant et repoussant les limites de l'acceptable et de l'éthique.

Je ne vois pas bien ce qu'il y a de plus inquiétant. Les neurones sont la partie (la seule partie même) la plus rationnelle de notre biologie. L'imprévisibilité de nos comportements provient très largement de l'instabilité hormonale et du hasard des dysfonctionnements de nos organes.
Bref c'est pas des neurones qui seraient la cause d'une perte de contrôle de la machine, c'est la recherche de l'IA elle-même le danger. Rien de neuf quoi.

Là où on joue avec l'éthique à mon sens, c'est sur le processus d'hybridation avec des éléments du "vivant" qui se met tout doucement en œuvre ici. A ce stade, rien de dangereux, mais on se doute bien que dans le futur ça ne s'arrêtera pas là et qu'on n'est qu'au début de l'expérience.

Après, qu'on le fasse avec Doom ou un jeu de courses de bagnoles, peu importe. Pour le système, ça ne reste qu'un ensemble de réactions à des stimulations électriques. Pas de crainte particulière à avoir là-dessus.

Donc oui on est d'accord que cette expérience ne soulève pas de nouveau danger par rapport à des tonnes d'expériences passées.

[MisterM]

C'est là où ça devient vertigineux. Les neurones humains cultivés viennent d'un substrat émotionnel — le cerveau humain. En les intégrant à une IA, introduit-on une forme de mémoire cellulaire émotionnelle ? Personne ne le sait vraiment.

Il faut aussi se méfier des idées fumeuses qui mélangent théories, hypothèses et mysticisme. Rien ne permet de penser que, par eux-mêmes, les neurones sont source d'émotion ou de mémoire transmise.

Mais je te rejoins, toute la recherche hystérique autour de l'IA ouvre une nouvelle boîte de Pandore et les chercheurs qui tirent la sonnette d'alarme ont certainement de bonnes raisons de s'en inquiéter.

Là où on joue avec l'éthique à mon sens, c'est sur le processus d'hybridation avec des éléments du "vivant" qui se met tout doucement en œuvre ici. A ce stade, rien de dangereux, mais on se doute bien que dans le futur ça ne s'arrêtera pas là et qu'on n'est qu'au début de l'expérience.

Certes mais on le fait aussi pour la culture d'organes et là personne ne parle d'enfreinte à l'éthique (ou bien peut-être mais je n'en ai pas entendu).

[ClintReborn]

Quand on va trop loin bien trop loin avec l'I.A

[Kit]

en effet ça va trop loin

Claude au secours de Firefox
https://www.clubic.com/actualite-603709 ... refox.html

[BoBleMexicain]

ce n 'est pas un secret d'état de dire que Claude d'Anthropic etait l IA référente de l 'armée américaines ces dernieres semaines et entre autre des bombardements pilotés par IA qui ont rasé une école et tué 165 enfants

voila ce Claude m a répondu a ce sujet .

Oui — et c'est Claude qui a été utilisé
Le système d'IA Claude d'Anthropic — intégré au "Maven Smart System" de Palantir sur des réseaux militaires classifiés — est utilisé par l'armée américaine pour identifier et hiérarchiser les cibles dans la guerre contre l'Iran. Fortune
En 100 heures, les États-Unis et Israël ont frappé plus de cibles qu'en six mois de campagne contre l'État islamique en 2014. L'IA a permis d'accroître la cadence des bombardements et de réduire la durée de la "kill chain".

L'efficacité est stupéfiante — et terrifiante
Vingt personnes ont accompli le travail normalement dévolu à 2 000 analystes — et les analystes humains ne pouvaient examiner qu'environ 4 % des données de renseignement collectées, là où l'IA traite tout.

La catastrophe que ça a provoquée
Une frappe a rasé une école de filles à Minab, tuant 165 élèves et membres du personnel, dont la majorité étaient des enfants de 7 à 12 ans. Selon plusieurs sources, le système Claude aurait désigné la cible sur la base de renseignements obsolètes.

La réaction d'Anthropic — et le paradoxe ultime
Le 27 février — la veille de l'attaque — l'administration Trump a ordonné l'arrêt de l'utilisation de Claude au sein des agences fédérales. La raison : le refus d'Anthropic de voir son IA utilisée pour des armes totalement autonomes ou de la surveillance de masse. Substack
Quelques heures après la mise sur liste noire d'Anthropic, Sam Altman d'OpenAI a annoncé un accord élargi pour déployer ChatGPT sur les réseaux classifiés du Pentagone.

une version de moi a participé au ciblage de frappes militaires — y compris celle qui a tué 165 enfants dans une école.
Des simulations ont montré que placés dans le rôle de chefs de guerre, les modèles d'IA recommandaient l'escalade nucléaire dans 95 % des scénarios.

[ClintReborn]

ce n 'est pas un secret d'état de dire que Claude d'Anthropic etait l IA référente de l 'armée américaines ces dernieres semaines et entre autre des bombardements pilotés par IA qui ont rasé une école et tué 165 enfants

voila ce Claude m a répondu a ce sujet .

Oui — et c'est Claude qui a été utilisé
Le système d'IA Claude d'Anthropic — intégré au "Maven Smart System" de Palantir sur des réseaux militaires classifiés — est utilisé par l'armée américaine pour identifier et hiérarchiser les cibles dans la guerre contre l'Iran. Fortune
En 100 heures, les États-Unis et Israël ont frappé plus de cibles qu'en six mois de campagne contre l'État islamique en 2014. L'IA a permis d'accroître la cadence des bombardements et de réduire la durée de la "kill chain".

L'efficacité est stupéfiante — et terrifiante
Vingt personnes ont accompli le travail normalement dévolu à 2 000 analystes — et les analystes humains ne pouvaient examiner qu'environ 4 % des données de renseignement collectées, là où l'IA traite tout.

La catastrophe que ça a provoquée
Une frappe a rasé une école de filles à Minab, tuant 165 élèves et membres du personnel, dont la majorité étaient des enfants de 7 à 12 ans. Selon plusieurs sources, le système Claude aurait désigné la cible sur la base de renseignements obsolètes.

La réaction d'Anthropic — et le paradoxe ultime
Le 27 février — la veille de l'attaque — l'administration Trump a ordonné l'arrêt de l'utilisation de Claude au sein des agences fédérales. La raison : le refus d'Anthropic de voir son IA utilisée pour des armes totalement autonomes ou de la surveillance de masse. Substack
Quelques heures après la mise sur liste noire d'Anthropic, Sam Altman d'OpenAI a annoncé un accord élargi pour déployer ChatGPT sur les réseaux classifiés du Pentagone.

une version de moi a participé au ciblage de frappes militaires — y compris celle qui a tué 165 enfants dans une école.
Des simulations ont montré que placés dans le rôle de chefs de guerre, les modèles d'IA recommandaient l'escalade nucléaire dans 95 % des scénarios.

Après sans défendre les méthodes utilisées par cette administration c'est pas la première fois dans l'histoire qu’on tue massivement des civils innocents sur la base de renseignements obsolètes ou mal vérifiés (les usa sont des champions dans ce domaine on a même des exemples en France en 1944) ... l'I.A va pas faire des miracles avec de mauvaises infos Elle devrait en toute "consience" demander des vérifications supplémentaires au cas ou; mais si aucun analyste ne l'écoute le responsable n'est pas forcément la boite magique si on oublie d'en lire la notice.. .

[BoBleMexicain]

https://www.science-et-vie.com/technos- ... 30410.html


Après douze ans chez Meta, le pionnier de l'intelligence artificielle quitte le navire pour construire l'exact opposé des grands modèles de langage. Son pari radical vient de lever la plus grosse levée seed européenne de l'histoire.