Lors d'une recente conversation sur The Tucker Carlson Show le PDG d'OpenAI Sam Altman a exprime sa profonde inquietude quant au fait que les modeles d'intelligence artificielle dont ChatGPT pourraient etre exploites pour concevoir des menaces biologiques dangereuses voire provoquer une pandemie similaire a la COVID-19.
Altman estime que l'IA devient aujourd'hui tres douee dans le domaine biologique et que cela apporte a la fois des opportunites et des risques.
Vous savez l'idee que l'IA puisse creer une pandemie de type similaire au COVID-19 m'inquiete toujours. Mais par inquietude nous et de nombreux acteurs de l'industrie reflechissons attentivement et cherchons des moyens efficaces de minimiser ce risque' a souligne M. Altman.
L'inquietude ci-dessus est liee aux progres des modeles linguistiques avances. Lorsque OpenAI a lance le GPT-5 la societe a publiquement decrit en detail le mecanisme de securite qui comprend un systeme de defense biologique en plusieurs couches afin d'empecher le risque d'abus d'IA a des fins malveillantes.
Outre la menace biologique Altman a egalement souligne les impacts plus sophistiques que ChatGPT cree sur le comportement humain. Il l'a qualifie d''effet a grande echelle social' lorsqu'un grand nombre de personnes interagissent avec un modele et forment progressivement de nouvelles habitudes dans la langue l'ecriture ou la pensee.
Altman cite le phenomene de nombreux utilisateurs de ChatGPT qui commencent a utiliser davantage le signe horizontal (—) dans le texte. Il etait autrefois un signe de phrase peu courant mais il apparaît progressivement plus frequemment dans les paragraphes en ligne au point que certaines personnes le considerent comme un signe d'identification du texte cree par l'IA.
Selon Altman bien que mince cela temoigne que l'IA peut façonner le comportement social de maniere sans precedent.
Nous entrons dans un nouveau monde plein de defis' a conclu M. Altman.
Avec le developpement rapide de l'intelligence artificielle l'avertissement d'Altman souleve une exigence urgente d'elaboration d'un mecanisme de gestion et de securite mondiales afin de garantir que cette technologie serve les interets de l'humanite au lieu de devenir une menace.
