カート
会員登録
ログイン
2026年9月ほど、人工知能（artificial intelligence：AI）の危険性が広く論じられた月は、なかったのではなかろうか。AIが人間の制御を離れ、人類の生存そのものを脅かしかねないとの懸念から、米国のAI企業トップが、安全対策が追いつくよう開発のペースを落とすことを訴えた。9月29日には、米国のトランプ大統領と主要AI企業トップらが自主規制を強める協定に署名したが、AIを制御しきれないことへの懸念は、なお強い。
こうした懸念に加え、人間によるAI悪用の危険性を示す事例も報告された。9月10日、Anthropic社は生成AI「Claude（クロード）」の悪用に関する報告を公表した。サイバー攻撃や兵器開発につながりうる利用のほか、生命科学分野では、生物兵器開発を支援しうる利用事例も示された。事例には、チクングニアウイルス、鳥インフルエンザウイルス、オルソポックスウイルス、毒素などが含まれる。ただし、研究者の加害意図を断定したものではなく、生物兵器開発を示す証拠は示されていないとの反論もある。
一方、この報告は、生命科学におけるAIのデュアルユースを浮き彫りにする。病原体や毒素の解析は悪用されうるが、感染症の監視やワクチン・治療薬、解毒薬の開発にも役立ちうる。AIは、標的探索、分子設計、毒性予測、臨床試験の効率化など、創薬の各段階にも貢献しうる。創薬力の強化が課題である日本にとって、AI技術の取り込みは重要な課題である。
では、創薬におけるAIの危険性をどうとらえるべきか。仮にAIが人間の意図に反して有害な候補物質を設計しても、それが医薬品として実際に使用されるには、研究開発・承認に加え、製造、流通を経て医療現場に届く必要がある。そこには製造設備や機材の操作、原材料の調達、製品の輸送など、人間による実作業が伴うため、AIが単独で一連の過程を進めるハードルは高い（ただし、複数のAIが人の意図を離れて連携する可能性は念頭に置いておくべき）。また、人間がAIを悪用したり、AIが人間を欺いたりすることで、有害な物質の作製や使用につながるほか、審査の判断を誤らせる危険性もある。たとえば、AIが自らの誤りや不適切な操作を隠したり、悪意を持つ人間や組織がAIを使って承認申請データを捏造したり、審査を支援するAIを欺いたりする可能性がある。こうした行為は、検証や審査を誤った判断に導きかねない。さらに、危険な目的の研究を正当な研究に見せかけてAIを利用するなど、人間による悪用は、利用者の肩書や申告した目的だけでは見わけられない。
医薬品の研究開発や審査でAIを利用する組織は、こうしたリスクへの対策を、それぞれの業務過程全体に組み込む必要がある。AIの能力や使われ方の変化を継続的に評価するとともに、誤りの隠蔽や不正なデータによる判断の誘導などをとらえる、新たな監視技術や検証手法の開発に取り組む必要がある。データの出所や変更履歴、AIの操作記録などを活用し、想定外の動作や不審な利用を検知した際には、人が介入し、必要に応じて操作や利用を停止できる体制も整える。AI導入においては、こうした安全対策を研究開発や審査の業務過程全体に組み込むことが重要である。
日本は、AI技術の開発で遅れを取っているだけではなく、そのリスクを評価し、安全性を確保する技術や経験の蓄積も十分ではない。AIの能力が急速に高まる中、安全対策の立ち遅れを自覚し、海外のAI開発企業や研究者との連携を通じて、監視・検証技術や運用上の知見を取り込む必要がある。その上で、日本の医薬品研究開発や審査に適した安全対策の構築をしていくことが求められる。
坂巻弘之（一般社団法人医薬政策企画P-Cubed代表理事、神奈川県立保健福祉大学シニアフェロー）［人工知能］［創薬］［医薬品審査］