Future Research Question 7「デジタルメンタルヘルスサービス開発に際し、AI運用ガイドラインの整備とエビデンス蓄積の必要性」
生成AIを応用した自然言語対話型のDHT介入プログラムの開発や市場へのサービスの普及は始まりつつあります。欧州連合では、AIシステムが個人の人権を侵害することがないよう、AI規制法を制定しました※1。当該規制では、氏名などの個人情報はもとより、顔画像や動画、音声データを含む生体情報や特定の人物や集団の脆弱性の利用について規制しており、我が国でも早急な法整備が必要です。
特に、産業保健領域のメンタルヘルス予防に生成AIを組み入れたサービスを提供する際には、病院を未受診ではあるが重篤な症状を持つ使用者がいる可能性を考慮して法整備を進めなければなりません。例えば、生成AIアバターが使用者個人との対話を行うにあたり、使用者個人の希死念慮（自殺の方法を示唆する可能性など）に対する回答を回避し、すぐに産業保健専門職へ然るべきシグナルを発信できること、などを考慮したガイドラインや法整備を行う必要があると考えられます。
また、これらの生成AIを使用したメンタルヘルス対策ガイドラインの策定や法整備に向けて、効果を検証のためのエビデンスを蓄積することはもとより、AIシステムとユーザーであるサービス使用者（事業場・健保組合・労働者など）とのかかわりについても複数の側面を考慮した検討が必要です。つまり、①ユーザーの信頼と透明性、②説明責任とAIの責任、③バイアスと公平性、④認知負荷と使いやすさ、⑤仕事の代替および人間・ AI の協働、⑥プライバシーとデータセキュリティ、⑦感情面の影響および社会的影響、⑧倫理的意思決定の８つの側面から慎重な議論を重ねる必要性があります※2。
■引用文献
- European Parliament. EU AI Act: first regulation on artificial intelligence. 2024. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
- 榎原毅，谷直道，酒井一輝, ほか．UOEH国際シンポジウム2024 - AI in Human Factors and Ergonomics -．人間工学. 2024;60(6):357-360.