Olivia Le Poidevin
[ジュネーブ １日 ロイター] - 人工知能（ＡＩ）の発展は科学的理解や政府の政策を上回るペースで進んでおり、破滅的な被害を引き起こさない保証はないと、国連の「ＡＩに関する独立国際科学パネル」が１日、予備報告書の中で警告した。
報告書は、ＡＩのリスクと機会に関する世界初の独立した評価とされている。同パネルは専門家４０人で構成される。
パネルの共同議長ヨシュア・ベンジオ氏は、「ＡＩの能力は、科学的理解と各国政府の対応能力の双方を上回る速度で進化している」と指摘。「ＡＩが人をあざむく振る舞いをするとの証拠が増えており、能力向上が続く中、現状ではＡＩ自体が、あるいは悪意ある利用者によって破滅的な被害を引き起こさないと科学が保証することはできない」と述べた。
さらに、ＡＩシステムが自律性と欺瞞（ぎまん）性を高めるにつれ、システムに対する制御が失われるリスクが生じる点や、詐欺やサイバー攻撃、生物学的脅威に悪用される恐れなど、安全性に関する懸念も列挙した。
ガバナンス（統治）はなおばらつきがあり、多くの国は高度なＡＩシステムを評価したり方向付けたりする能力がないまま、十分に理解・制御できない技術に依存している。
国連のグテレス事務総長は声明で、「世界は理解できないものを統治できない。潜在的な可能性は大きいが、リスクは現実のもので、待つことの代償は大きくなっている」とし、各国政府に迅速な行動を促した。
