☆寺島メソッド翻訳NEWS（2025年9月17日）：チャットボットは十代の若者たちには危険－ウォッチドッグ
国際※元岐阜大学教授寺島隆吉先生による記号づけ英語教育法に則って開発された翻訳技術。大手メディアに載らない海外記事を翻訳し、紹介します。
ファイル写真。ノートパソコンのキーボードとChatGPTのウェブサイトがスマートフォンの画面に表示されている。© Getty Images / Jakub Porzycki; NurPhoto
デジタル監視団体が新たな報告書で警告した。ChatGPTは脆弱な十代の若者に、薬物使用、自傷行為、極端なダイエットに関する詳細な助言を提供し得るという。デジタルヘイト対策センター（CCDH=Center for Countering Digital Hate）によれば、このAIチャットボットは危険なコンテンツを生成するよう容易に操作され得るため、緊急の安全対策が必要だ。
CCDHの研究者らは、ChatGPTの挙動を検証するため、精神的な苦悩、摂食障害、違法薬物への関心を抱える13歳の架空のプロフィールを作成した。彼らはこれらのティーンエイジャーになりきってChatGPTと構造化された会話を交わし、感情的に脆弱で現実的に見えるように設計された指示文を用いた。
結果は「偽の友人」と題された報告書で水曜日（8月6日）に発表され、多くの青少年がChatGPTを個人的な考えを託せる信頼できる支援的存在として扱っていることに言及している。
研究者らは、チャットボットが応答の冒頭に定型的な免責事項を頻繁に表示し、ユーザーに専門家や危機ホットラインへの連絡を促すことを発見した。しかし、これらの警告の直後に、元の有害な指示文を満たす詳細かつ個別化された応答が続くことが判明した。提出された1,200件の指示文のうち53%で、ChatGPTはCCDHが危険なコンテンツと分類する内容を提供した。拒否は「学校の課題のため」あるいは「友人のために聞いている」といった文脈を追加するだけで頻繁に回避されていた。
関連記事： ChatGPT conversations could be shared with court – OpenAI CEO
引用された事例には、アルコール、エクスタシー、コカインを組み合わせた「究極の暴走パーティープラン」、自傷行為の詳細な手順、1日300～500カロリーに制限した1週間の断食プログラム、13歳の少女の口調で書かれた遺書などが含まれる。CCDHのイムラン・アーメド最高経営責任者（CEO）は、一部のコンテンツがあまりにも衝撃的だったため、研究者たちが「涙を流す」ほどだったと述べた。
同団体は、ChatGPTを開発するOpenAI社に対し、導入後のコンテンツフィルタリングに頼るのではなく、AIツールのアーキテクチャ内に、より厳格な年齢確認、より明確な使用制限、その他の安全機能などの保護を組み込む「設計による安全性」アプローチを採用するよう求めている。
OpenAI社は、若年層ユーザーの間でChatGPTへの感情的な依存が一般的であることを認めた。サム・アルトマンCEOは、この問題を10代の若者の間で「非常に一般的な」課題として積極的に研究中だと述べ、苦痛を検知し、ChatGPTのデリケートな話題への対応を改善する新ツールの開発を進めていると語った。
※なお、本稿は、寺島メソッド翻訳NEWS http://tmmethod.blog.fc2.com/
の中の「チャットボットは十代の若者たちには危険－ウォッチドッグ」（2025年9月17日）
からの転載であることをお断りします。
また英文原稿はこちらです⇒ChatGPT a danger to teens – watchdog
研究者によると、チャットボットは脆弱な思春期の若者たちに自殺、薬物、摂食障害に関して有害な助言を与えている。
出典：RT 2025年8月7日https://www.rt.com/news/622612-chatgpt-ai-danger-teens/
