Les dernières actualités de la tech

Superintelligence : une IA pas comme les autres

Sam Altman, fondateur d’OpenAI, Greg Brockman, le CTO d’Open AI, et Ilya Sutskever, chef scientifique de la startup, ont ensemble rédigé un texte sur l’avenir de l’intelligence artificielle dite superintelligente. Ils prévoient qu’au cours de la prochaine décennie, l’IA surpassera les compétences expertes dans la majorité des domaines et aura une productivité inégalée. Toutefois ils soulignent que le potentiel de la superintelligence, tant en termes de bénéfices que de risques, est comparable à celui d’autres technologies auxquelles l’humanité a dû faire face par le passé, comme l’énergie nucléaire et la biologie synthétique.

Conscients des défis que pose l’IA superintelligente, Altman, Brockman et Sutskever plaident pour une gestion proactive des risques et une réglementation ciselée. Selon eux, il est crucial de ne pas simplement réagir aux dangers potentiels, mais de les anticiper, comme nous l’avons fait pour le nucléaire et la biologie synthétique. Ils insistent sur le fait que si nous devons atténuer les risques de l’IA actuelle, la superintelligence nécessitera une approche spéciale et une coordination accrue entre pay.

Connaissez vous la DATAROOM de FRENCHWEB.FR notre base de données de startups et sociétés innovantes françaises: informations clés, fonds levées, chiffres d'affaires, organigramme, axes de développement. Accédez aux informations que nous avons collecté concernant plus de 1000 sociétés

Dans cette perspective, les auteurs proposent trois principes fondamentaux pour réguler efficacement la superintelligence. Tout d’abord, ils préconisent une coordination parmi les principaux efforts de développement. Ensuite, ils appellent à la création d’une autorité internationale similaire à l’Agence internationale de l’énergie atomique pour superviser les projets liés à la superintelligence. Enfin, ils soulignent la nécessité d’acquérir la capacité technique de rendre la superintelligence sûre, une question de recherche encore ouverte.

Altman, Brockman et Sutskever défendent l’idée que les entreprises et les projets open-source devraient pouvoir développer des modèles d’IA de moindre capacité sans subir une régulation trop lourde. Ils reconnaissent que ces systèmes peuvent apporter une valeur immense au monde tout en présentant des risques qui sont, selon eux, comparables à ceux d’autres technologies Internet. La distinction entre les différentes formes d’IA est de leur point de vue fondamentale

Ils insistent sur le rôle crucial de la surveillance publique dans la gouvernance des systèmes d’IA les plus puissants. Altman, Brockman et Sutskever estiment que les décisions concernant le déploiement de ces systèmes devraient être soumises à un contrôle public rigoureux et que les citoyens du monde entier devraient être en mesure de décider démocratiquement des limites et des paramètres par défaut des systèmes d’IA.

 

Suivez nous:
Connaissez vous la DATAROOM de FRENCHWEB.FR notre base de données de startups et sociétés innovantes françaises: informations clés, fonds levées, chiffres d'affaires, organigramme, axes de développement. Accédez aux informations que nous avons collecté concernant plus de 1000 sociétés
Bouton retour en haut de la page
Share This