Eduardo Baptista
[北京 15日 ロイター] - 動画投稿アプリ「TikTok(ティックトック)」を運営する中国IT大手の字節跳動(バイトダンス)傘下の人工知能(AI)研究部門「シード(Seed)」は、高度なAIモデルの安全性向上のために「アラインメント(整合性)・プレペアドネス(備え)」チームを新設し、世界で研究者10人の採用を進めている。AI安全分野への長期的な投資を行う方針だ。
背景には、AIエージェントにインターネットへの自律的アクセス権限を与える動きが広がり、中国と米国で安全性への監視が強まっている状況がある。
AIアラインメントは、高度なAIシステムが複雑で多段階の作業を実行する際にも、人間の目的や安全要件に沿って行動するようにする取り組みを指す概念。バイトダンスによる今回の動きは、中国の主要なAI開発企業として、最先端モデルの安全性やアラインメント、新たなリスクへの備えに特化した取り組みを公表する珍しい事例となる。
中国政府系メディア、澎湃新聞は13日、シードが中国の最先端AI研究機関として初めて、安全性とアラインメントを担う独立部門を設立したと報じた。
シードは14日に微信(ウィーチャット)の公式アカウントに掲載した採用案内で「モデル能力が向上する中、安全性とアラインメントは単なるリスク対策ではなく、モデルを大規模展開できるかを左右する中核的な能力になっている」と説明した。
採用案内によると、新チームには最先端モデル開発チームと同等の計算資源と研究資源が提供され、勤務地は北京市、上海市、米カリフォルニア州サンノゼとなる。
研究内容は、モデル開発の各段階における安全性訓練、脆弱(ぜいじゃく)性の自動検査、モデルの挙動を監視・説明するツール、AIエージェントのテスト環境構築、新たなリスクへの備えなどを含む。さらに外部機関による独立評価の実施や大学・研究機関との連携も進め、安全性研究の成果をモデルの学習、評価、展開の各段階に適用していくとしている。