Le 14 octobre, Sam Altman, le patron d’OpenAI, a fait une annonce remarquée sur X. L’entreprise va assouplir les restrictions de son modèle de langage ChatGPT. Dès décembre, les utilisateurs pourront discuter avec l’intelligence artificielle de sujets érotiques. Ce changement s’accompagnera d’un mode adulte et d’un système de personnalisation renforcé. OpenAI explique vouloir répondre aux attentes des utilisateurs tout en se démarquant des nombreuses applications concurrentes sur le marché de l’utilisation responsable de l’intelligence artificielle.
Plus d’options de personnalisation pour les adultes
En décembre, une nouvelle version de ChatGPT proposera un « mode adulte ». Ce mode permettra d’adapter la personnalité de l’IA selon les préférences de chacun, pour des échanges plus proches du naturel. ChatGPT pourra simuler des relations amoureuses ou des scénarios de séduction, donnant l’illusion d’une conversation avec un ami ou une petite amie. Malgré cet assouplissement, les limites resteront strictes : tout contenu pornographique restera exclu, tandis que des échanges suggestifs ou flirtants seront autorisés.
L’arrivée de cette fonctionnalité s’accompagnera d’un système de vérification d’âge. Seuls les adultes vérifiés pourront accéder au contenu érotique. Sam Altman a résumé la philosophie derrière ce choix par cette phrase : « traiter les utilisateurs adultes comme des adultes », relaye TF1 Info. Pour s’assurer que seuls les majeurs y aient accès, OpenAI met au point un système complexe d’analyse des interactions pour estimer l’âge de l’utilisateur.
Vérifier l’âge : une méthode par faisceau d’indices
La sécurité et la protection des mineurs sont primordiales pour OpenAI. Plutôt que des méthodes classiques comme l’analyse de selfies, l’entreprise a choisi d’analyser les interactions utilisateur. En se fondant sur le vocabulaire, la syntaxe, la structure des phrases et d’autres indicateurs (les thèmes abordés, la vitesse de frappe), elle espère distinguer adultes et mineurs. Sam Altman reconnaît toutefois que ce système n’est pas infaillible et qu’il y aura vraisemblablement des erreurs de jugement.
Ce dispositif est le résultat de plusieurs mois de recherche et développement. Le défi est important : même si seule une faible proportion de mineurs parvenait à accéder à ce contenu, cela pourrait poser de sérieux problèmes. Cette initiative intervient aussi comme réponse proactive aux enquêtes menées par la Federal Trade Commission (FTC) sur les pratiques des entreprises d’IA et les avancées significatives dans ce domaine.
