Home-theater-designers
ChatGPT est un nouveau chatbot AI puissant qui impressionne rapidement, mais de nombreuses personnes ont souligné qu'il présentait de sérieux pièges. Demandez-lui ce que vous voulez, et vous recevrez une réponse qui semble avoir été écrite par un humain, ayant appris ses connaissances et ses compétences en écriture à partir de quantités massives d'informations sur Internet.
UTILISEZ LA VIDÉO DU JOUR
Tout comme Internet, cependant, la vérité et les faits ne sont pas toujours acquis et ChatGPT est coupable de se tromper. Avec ChatGPT prêt à changer notre avenir, voici quelques-unes des plus grandes préoccupations.
Qu'est-ce que ChatGPT ?
ChatGPT est un grand modèle d'apprentissage des langues conçu pour imiter la conversation humaine. Il peut se souvenir de ce que vous lui avez dit dans le passé et est capable de se corriger lorsqu'il se trompe.
Il écrit de manière humaine et possède une mine de connaissances car il a été formé sur toutes sortes de textes provenant d'Internet, tels que Wikipedia, des articles de blog, des livres et des articles universitaires.
C'est facile à apprendre comment utiliser ChatGPT , mais ce qui est plus difficile, c'est de découvrir quels sont ses plus gros problèmes. En voici quelques-uns qui valent la peine d'être connus.
1. ChatGPT n'est pas toujours correct
Il échoue en mathématiques de base, ne semble pas pouvoir répondre à des questions logiques simples et ira même jusqu'à argumenter des faits complètement incorrects. Comme les utilisateurs des médias sociaux peuvent en témoigner, ChatGPT peut se tromper à plusieurs reprises.
OpenAI connaît cette limitation, en écrivant que : 'ChatGPT écrit parfois des réponses plausibles mais incorrectes ou absurdes.' Cette « hallucination » de faits et de fiction, comme l'appellent certains scientifiques, est particulièrement dangereuse lorsqu'il s'agit de quelque chose comme un avis médical.
Contrairement à d'autres assistants IA comme Siri ou Alexa, Chat GPT n'utilise pas Internet pour localiser les réponses. Au lieu de cela, il construit une phrase mot par mot, en sélectionnant le 'jeton' le plus probable qui devrait venir ensuite, en fonction de sa formation.
En d'autres termes, ChatGPT arrive à une réponse en faisant une série de suppositions, ce qui explique en partie pourquoi il peut argumenter de mauvaises réponses comme si elles étaient complètement vraies.
Bien qu'il soit excellent pour expliquer des concepts complexes, ce qui en fait un puissant outil d'apprentissage, il est important de ne pas croire tout ce qu'il dit. ChatGPT n'est pas toujours correct, du moins pas encore.
2. Le biais est intégré au système
ChatGPT a été formé sur l'écriture collective des humains à travers le monde, passée et présente. Cela signifie que les mêmes biais qui existent dans les données peuvent également apparaître dans le modèle.
En fait, les utilisateurs ont montré comment ChatGPT peut donner des réponses terribles, certaines, par exemple, qui discriminent les femmes. Mais ce n'est que la pointe de l'iceberg ; elle peut produire des réponses extrêmement préjudiciables à toute une série de groupes minoritaires.
Le blâme ne réside pas simplement dans les données non plus. Les chercheurs et développeurs OpenAI choisissent les données utilisées pour former ChatGPT. Pour aider à résoudre ce que OpenAI appelle un 'comportement biaisé', il demande aux utilisateurs de donner leur avis sur les mauvais résultats.
Avec le potentiel de nuire aux personnes, vous pouvez affirmer que ChatGPT n'aurait pas dû être rendu public avant que ces problèmes ne soient étudiés et résolus.
Internet lui-même est douloureux en anglais
Un chatbot AI similaire appelé Sparrow (appartenant à la société mère de Google, Alphabet) a été publié en septembre 2022. Cependant, il a été gardé à huis clos en raison de préoccupations similaires selon lesquelles il pourrait causer des dommages.
Peut-être que Meta aurait également dû diriger l'avertissement. Lorsqu'il a publié Galactica, un modèle de langage d'IA formé sur des articles universitaires, il a été rapidement rappelé après que de nombreuses personnes l'aient critiqué pour avoir produit des résultats erronés et biaisés.
3. Un défi pour l'anglais au lycée
Vous pouvez demander à ChatGPT de relire votre écriture ou d'indiquer comment améliorer un paragraphe. Alternativement, vous pouvez vous retirer complètement de l'équation et demander à ChatGPT d'écrire quelque chose pour vous.
Les enseignants ont expérimenté l'envoi de devoirs en anglais à ChatGPT et ont reçu des réponses meilleures que ce que beaucoup de leurs élèves pourraient faire. De la rédaction de lettres de motivation à la description de thèmes majeurs dans une œuvre littéraire célèbre, ChatGPT peut le faire sans hésitation.
Cela soulève la question : si ChatGPT peut écrire pour nous, les étudiants devront-ils apprendre à écrire à l'avenir ? Cela peut sembler être une question existentielle, mais lorsque les élèves commenceront à utiliser ChatGPT pour les aider à rédiger leurs essais, les écoles devront réfléchir rapidement à une réponse. Le déploiement rapide de l'IA ces dernières années devrait choquer de nombreuses industries, et l'éducation n'est que l'une d'entre elles.
4. Cela peut causer des dommages réels
Plus tôt, nous avons mentionné comment des informations incorrectes par ChatGPT peuvent causer des dommages dans le monde réel, l'exemple le plus évident étant un mauvais avis médical.
Il y a aussi d'autres préoccupations. Les faux comptes de médias sociaux posent un énorme problème sur Internet et avec l'introduction des chatbots IA, les escroqueries sur Internet deviendraient plus faciles à réaliser. La diffusion de fausses informations est une autre préoccupation, en particulier lorsque ChatGPT fait en sorte que même les mauvaises réponses sonnent de manière convaincante.
La vitesse à laquelle ChatGPT peut produire des réponses qui ne sont pas toujours correctes a déjà causé des problèmes à Stack Exchange, un site Web où les utilisateurs peuvent poser des questions et obtenir des réponses.
Peu de temps après sa sortie, les réponses de ChatGPT ont été bannies du site car un grand nombre d'entre elles étaient erronées. Sans suffisamment de volontaires humains pour trier l'arriéré, il serait impossible de maintenir un niveau élevé de réponses de qualité, ce qui endommagerait le site Web.
5. OpenAI a tout le pouvoir
Un grand pouvoir s'accompagne d'une grande responsabilité, et OpenAI détient beaucoup de pouvoir. C'est l'une des premières sociétés d'intelligence artificielle à véritablement secouer le monde avec non pas un, mais plusieurs modèles d'intelligence artificielle, dont Dall-E 2, GPT-3 et maintenant ChatGPT.
OpenAI choisit quelles données sont utilisées pour former ChatGPT et comment il traite les conséquences négatives. Que nous soyons d'accord avec les méthodes ou non, il continuera à développer cette technologie selon ses propres objectifs.
Bien qu'OpenAI considère la sécurité comme une priorité élevée, il y a beaucoup de choses que nous ignorons sur la façon dont les modèles sont créés. Que vous pensiez que le code devrait être rendu open source ou que vous considériez qu'il devrait en garder certaines parties secrètes, nous ne pouvons pas y faire grand-chose.
En fin de compte, tout ce que nous pouvons faire est de croire qu'OpenAI recherchera, développera et utilisera ChatGPT de manière responsable. Alternativement, nous pouvons plaider pour que davantage de personnes aient leur mot à dire dans quelle direction l'IA devrait aller, partageant le pouvoir de l'IA avec les personnes qui l'utiliseront.
Si vous êtes intéressé par ce qu'OpenAI a développé d'autre, consultez nos articles sur comment utiliser Dall-E 2 et comment utiliser GPT-3 .
Windows 10 ne démarre pas depuis l'usb
S'attaquer aux plus gros problèmes de l'IA
Il y a de quoi être enthousiasmé par ChatGPT, le dernier développement d'OpenAI. Mais au-delà de ses utilisations immédiates, il existe de sérieux problèmes qui méritent d'être compris.
OpenAI admet que ChatGPT peut produire des réponses nuisibles et biaisées, sans parler de sa capacité à mélanger les faits avec la fiction. Avec une telle nouvelle technologie, il est difficile de prédire quels autres problèmes surgiront. Alors jusque-là, profitez de l'exploration de ChatGPT et faites attention à ne pas croire tout ce qu'il dit.