Selon un article publié le 17 janvier par *Financial Times* (FT), OpenAI et Anthropic, deux entreprises majeures dans le domaine de l’IA, ont élaboré des stratégies pour ralentir le rythme du développement de l’intelligence artificielle. Les deux dirigeants affirment, en s’appuyant sur les avertissements répétés des chercheurs, qu’il faut restreindre la progression des modèles les plus avancés ces derniers mois et ont ainsi pris des mesures similaires dans leur concurrence.
Néanmoins, à l’intérieur des deux sociétés, la mise en œuvre de ces plans reste encore incertaine. Les employés et certains chercheurs de sécurité n’ont reçu que peu d’information sur les détails du plan avant son annonce officielle, soulevant des craintes quant à un éventuel impact négatif sur leurs travaux.
Le vendredi passé, Amodei a demandé de freiner le rythme du développement de l’IA, en proposant une évaluation indépendante et un renforcement de la coopération entre instituts de recherche nationale et gouvernementaux. Il a souligné que les évaluateurs externes devraient bénéficier des mêmes droits d’accès que leurs collègues internes dans les principaux laboratoires d’IA.
OpenAI a opté pour des solutions plus pratiques, mettant en œuvre une partie de l’entraînement de ses modèles les plus avancés. En revanche Anthropic continue à mener son recherche. Les deux entreprises sont engagées dans un débat sur la portée d’accès des évaluateurs externes et ont mis en évidence des problèmes de sécurité. Les employés craignent que le partage d’information critique puisse être compromis si des intervenants extérieurs s’aventent trop près.
Les laboratoires d’IA ont mis en place des mesures pour limiter l’accès aux données d’entraînement et contrôler l’utilisation des données, tandis qu’OpenAI a renforcé les contrôles de sécurité afin d’assurer que les employés internes ne puissent pas causer une fuite.
Miles Brundy, ex‑fonctionnaire chez OpenAI, a affirmé que le droit d’accès pour un tiers est inférieur à celui du personnel régulier, et l’a confirmé ; cela pourrait être un standard pour l’ensemble de l’industrie.
Anthropic a collaboré depuis longtemps avec des évaluateurs externes, et a annoncé la mise en place d’un plan d’évaluation. Les deux entreprises se concentrent sur le renforcement des mécanismes d’« défense‑tête‑t‑t » à qu’à découtrage le post‑lien.
Dans l’ensemble, sans quoi le rôle de l’agent …? (the text seems incomplete; but the translation is finished.)