Home-theater-designers
Avec des millions d'utilisateurs de ChatGPT, vous vous demandez peut-être ce que fait OpenAI avec toutes ses conversations. Analyse-t-il constamment les choses dont vous parlez avec ChatGPT ?
La réponse est oui, ChatGPT apprend de l'entrée de l'utilisateur, mais pas comme la plupart des gens le pensent. Voici un guide détaillé expliquant pourquoi ChatGPT suit les conversations, comment il les utilise et si votre sécurité est compromise.
UTILISEZ LA VIDÉO DU JOUR FAITES DÉFILER POUR CONTINUER AVEC LE CONTENU
ChatGPT se souvient-il des conversations ?
ChatGPT ne prend pas les invites au pied de la lettre. Il utilise la mémoire contextuelle pour mémoriser et référencer les entrées précédentes, garantissant des réponses pertinentes et cohérentes.
comment exécuter mac os sur windows
Prenez la conversation ci-dessous comme exemple. Lorsque nous avons demandé à ChatGPT des idées de recettes, il a pris en compte notre message précédent sur les allergies aux arachides.
Voici la recette sûre de ChatGPT.
La mémoire contextuelle permet également à l'IA d'exécuter des tâches en plusieurs étapes. L'image ci-dessous montre que ChatGPT reste dans son caractère même après l'avoir alimenté avec une nouvelle invite.
ChatGPT peut mémoriser des dizaines d'instructions dans les conversations. Sa sortie s'améliore en fait en termes d'exactitude et de précision à mesure que vous fournissez plus de contexte. Assurez-vous simplement d'expliquer explicitement vos instructions.
Vous devez également gérer vos attentes car la mémoire contextuelle de ChatGPT a encore des limites.
Les conversations ChatGPT ont des capacités de mémoire limitées
La mémoire contextuelle est finie. ChatGPT a des ressources matérielles limitées, il ne se souvient donc que de points spécifiques des conversations en cours. La plate-forme oublie les invites précédentes une fois que vous avez atteint sa capacité de mémoire.
Dans cette conversation, nous avons demandé à ChatGPT de jouer le rôle d'un personnage fictif nommé Tomie.
Il a commencé à répondre aux invites en tant que Tomie, pas ChatGPT.
Bien que notre demande ait fonctionné, ChatGPT a cassé le caractère après avoir reçu une invite de 1 000 mots.
OpenAI n'a jamais divulgué les limites exactes de ChatGPT, mais les rumeurs disent qu'il ne peut traiter que 3 000 mots à la fois. Dans notre expérience, ChatGPT a mal fonctionné après seulement plus de 2 800 mots.
Vous pouvez décomposer vos invites en deux ensembles de 1 500 mots, mais ChatGPT ne conservera probablement pas toutes vos instructions. Commencez simplement une autre discussion. Sinon, vous devrez répéter plusieurs fois des détails spécifiques tout au long de votre conversation.
ChatGPT ne mémorise que les entrées pertinentes pour le sujet
ChatGPT utilise la mémoire contextuelle pour améliorer la précision de la sortie. Il ne se contente pas de conserver des informations pour le plaisir de les collecter. La plate-forme oublie presque automatiquement les détails non pertinents, même si vous êtes loin d'atteindre la limite de jetons.
Dans l'image ci-dessous, nous essayons de confondre l'IA avec diverses instructions incohérentes et non pertinentes.
Nous avons gardé nos entrées combinées en dessous de 100 mots, mais ChatGPT a quand même oublié notre première instruction. Il a rapidement cassé le caractère.
Pendant ce temps, ChatGPT a continué à jouer un rôle pendant cette conversation car nous n'avons posé que des questions pertinentes sur le sujet.
sim non provisionné mm #2 at&t
Idéalement, chaque dialogue doit suivre un thème unique pour maintenir des résultats précis et pertinents. Vous pouvez toujours saisir plusieurs instructions simultanément. Assurez-vous simplement qu'ils correspondent au sujet général, sinon ChatGPT pourrait supprimer des instructions qu'il juge non pertinentes.
Instructions de formation Overpower User Input
ChatGPT donnera toujours la priorité aux instructions prédéterminées par rapport aux entrées générées par l'utilisateur. Il arrête les activités illicites par des restrictions. La plate-forme rejette toute invite qu'elle juge dangereuse ou préjudiciable aux autres.
Prenez les demandes de jeu de rôle comme exemples. Bien qu'ils outrepassent certaines limitations de langage et de formulation, vous ne pouvez pas les utiliser pour commettre des activités illicites.
Bien sûr, toutes les restrictions ne sont pas raisonnables. Si des directives rigides rendent difficile l'exécution de tâches spécifiques, continuez à réécrire vos invites. Le choix des mots et le ton affectent fortement les sorties. Vous pouvez vous inspirer du plus invites efficaces et détaillées sur GitHub .
Comment OpenAI étudie-t-il les conversations des utilisateurs ?
La mémoire contextuelle ne s'applique qu'à votre conversation en cours. L'architecture sans état de ChatGPT traite les conversations comme des instances indépendantes ; il ne peut pas référencer les informations des précédents. Le démarrage de nouvelles discussions réinitialise toujours l'état du modèle.
Cela ne veut pas dire que ChatGPT vide instantanément les conversations des utilisateurs. Conditions d'utilisation d'OpenAI déclarent que l'entreprise collecte les entrées de services grand public non API tels que ChatGPT et Dall-E. Vous pouvez même demander des copies de votre historique de chat.
Tandis que ChatGPT accède librement aux conversations, Politique de confidentialité d'OpenAI interdit les activités susceptibles de compromettre les utilisateurs. Les formateurs ne peuvent utiliser vos données que pour la recherche et le développement de produits.
Les développeurs recherchent des failles
OpenAI passe au crible les conversations à la recherche d'échappatoires. Il analyse les cas où ChatGPT démontre des biais de données, produit des informations nuisibles ou aide à commettre des activités illicites. Les lignes directrices éthiques de la plateforme sont constamment renouvelées.
Par exemple, les premières versions de ChatGPT répond ouvertement aux questions sur le codage des logiciels malveillants ou fabriquer des explosifs. Ces incidents ont donné aux utilisateurs l'impression OpenAI n'a aucun contrôle sur ChatGPT . Pour regagner la confiance du public, il a entraîné le chatbot à rejeter toute question qui pourrait aller à l'encontre de ses directives.
Les formateurs collectent et analysent les données
ChatGPT utilise des techniques d'apprentissage supervisé. Bien que la plate-forme se souvienne de toutes les entrées, elle n'en apprend pas en temps réel. Les formateurs OpenAI les collectent et les analysent en premier. Cela garantit que ChatGPT n'absorbe jamais les informations nuisibles et préjudiciables qu'il reçoit.
L'apprentissage supervisé demande plus de temps et d'énergie que les techniques non supervisées. Cependant, laisser l'IA analyser seule les entrées s'est déjà avéré nocif.
Prenez Microsoft Tay comme exemple, l'un des fois que l'apprentissage automatique a mal tourné . Puisqu'il analysait constamment les tweets sans l'aide des développeurs, les utilisateurs malveillants l'ont finalement entraîné à cracher des opinions racistes et stéréotypées.
Les développeurs surveillent constamment les biais
Plusieurs les facteurs externes causent des biais dans l'IA . Des préjugés inconscients peuvent découler de différences dans les modèles de formation, d'erreurs dans les ensembles de données et de restrictions mal construites. Vous les repérerez dans diverses applications d'IA.
Heureusement, ChatGPT n'a jamais fait preuve de préjugés discriminatoires ou raciaux. Selon un Poste de New York rapport. La plateforme écrit plus ouvertement sur des sujets libéraux que conservateurs.
Pour résoudre ces biais, OpenAI a interdit à ChatGPT de fournir des informations politiques. Il ne peut répondre qu'à des faits généraux.
Les modérateurs examinent les performances de ChatGPT
Les utilisateurs peuvent fournir des commentaires sur la sortie de ChatGPT. Vous trouverez les boutons pouce vers le haut et vers le bas sur le côté droit de chaque réponse. Le premier indique une réaction positive. Après avoir cliqué sur le bouton J'aime ou Je n'aime pas, une fenêtre apparaîtra dans laquelle vous pourrez envoyer des commentaires dans vos propres mots.
Le système de rétroaction est utile. Donnez simplement à OpenAI le temps de passer au crible les commentaires. Des millions d'utilisateurs commentent régulièrement ChatGPT - ses développeurs accordent probablement la priorité aux cas graves de biais et à la génération de résultats nuisibles.
comment envoyer un emplacement de broche
Vos conversations ChatGPT sont-elles sécurisées ?
Compte tenu des politiques de confidentialité d'OpenAI, vous pouvez être assuré que vos données resteront en sécurité. ChatGPT utilise uniquement les conversations pour la formation aux données. Ses développeurs étudient les informations collectées pour améliorer la précision et la fiabilité des résultats, et non pour voler des données personnelles.
Cela dit, aucun système d'IA n'est parfait. ChatGPT n'est pas intrinsèquement biaisé, mais des individus malveillants pourraient toujours exploiter ses vulnérabilités, par exemple des erreurs d'ensemble de données, une formation négligente et des failles de sécurité. Pour votre protection, apprenez à combattre ces risques.