チャットＧＰＴの未成年者保護強化版、オープンＡＩがリスク対応 | ニューズウィーク日本版オフィシャルサイト

[１８日ロイター] - 対話型生成人工知能（ＡＩ）「チャットＧＰＴ」を手がける米オープンＡＩは１８日、未成年者向けの保護機能強化版「チャットＧＰＴフォー・ティーンズ」を発表した。背景には対話型ＡＩを巡るリスクに対する社会の目が厳しくなっていることがある。

同社のブログによると、この保護機能強化版では自傷行為や暴力、摂食障害など高リスクのテーマに関する対話を制限するほか、生徒に答えをそのまま提示するのではなく、学習を支援する教育機能を提供する。利用者が１８歳未満と推定される場合や、１３歳から１７歳であると自己申告される場合に自動的に適用され、保護者は「クワイエット・アワーズ（静音時間）」の設定や一部機能の管理が可能で、未成年者が機微に関する話題について対話した際に通知を受け取ることができる。

今回の対応は、若年層の精神的健康への悪影響を示す証拠や訴訟リスクの高まりを受けて保護対策を強化しているメタなど大手テクノロジー企業の動きに歩調を合わせる動きと言える。各国では若年層への悪影響を理由に交流サイト（ＳＮＳ）の利用を制限・禁止する動きも強まり、業界への圧力が高まっている。

オープンＡＩは既に、チャットＧＰＴが子どもに危害を与えたとする複数の訴訟に直面。人間のように会話できるチャットボットが感情面での支えや相談相手として利用されるケースが増えていることも、同社にとっての課題だ。

専門家の間では、精神的健康に関する助言を自動化システムに依存することの危険性を指摘する声が聞かれる。家族をチャットボットとのやり取りの後に亡くしたとされる遺族からは、安全対策の不備への批判が出ているほか、学生による課題作成でのＡＩ利用拡大が学習への悪影響につながるとの懸念も広がっている。

オープンＡＩは「ＡＩは教育機会の拡大に寄与すべきだと考えている。そのため、教室外で支援が得られない場面でも学習をサポートできるよう、チャットＧＰＴフォー・ティーンズを設計した」と説明した。

保護強化版には、学習を段階的に支援するスタディーモードのほか、宿題のリマインダー、クイズ、各種ビジュアライゼーション機能などが含まれる。米調査機関ピュー・リサーチ・センターが今年実施した調査では、米国の１０代によるＡＩ利用目的として「情報検索」や「宿題の支援」が最も多く、次いで「娯楽・楽しみ」が続いた。

オープンＡＩは、利用者の最低年齢を１３歳、または各国・地域で定められた最低利用年齢以上としている。年齢推定には自己申告情報に加え、利用行動やアカウント情報、本人確認などを組み合わせて活用する方針で、年齢を正確に判定できない場合には、より安全性の高い設定を適用するという。