監視ソフトウェアの新たな修正により、AIによって改変された毒性タンパク質を検出する能力が向上した研究結果について。
バイオセキュリティスクリーニングソフトウェアは、DNA製造注文に潜在的に有害なタンパク質が含まれていないか監視しています。
AIはセキュリティフィルターをすり抜ける毒素を設計できますが、新たな研究によると、ソフトウェアパッチによってそれらの毒素を捕捉できることが示されています。ナノバイオセキュリティ検査ソフトウェアへの新しいパッチにより、人工知能を使用して潜在的に有害なタンパク質を生成が困難になる可能性があります。
このソフトウェアは世界中で、人工的にタンパク質を合成するプロセスを監視し、悪意のある者が毒素などの危険なタンパク質を生成しないようにしています。
10月2日付けのScience誌で、研究者タンパク質にわずかな変更を加えることで、安全対策を回避できる可能性があると報告していますが、スクリーニングにおける欠陥を補うことで、AIが設計した危険なタンパク質を検知するプログラムの能力を高めることができるという研究結果を発表しました。
「AIの進歩は生物学と医学の飛躍的な進歩を促しています」と、ワシントン州レドモンドにあるマイクロソフトの最高科学責任者、エリック・ホーヴィッツ氏は9月30日の記者会見で述べました。「しかし、新たな力には、常に注意を払い、思慮深いリスク管理を行う責任が伴います。」タンパク質は生物学の主力分子です。これらの分子は、細胞の組み立てや体全体への貨物の輸送といった細胞レベルでの役割を果たします。
AIを活用することで、研究者たちは既存のタンパク質を微調整して特定のタスクを遂行させたり、変更したり 新たに作成したりすることができるようになりました。AIはタンパク質の合成に必要なアミノ酸を特定することで、タンパク質のデジタル設計図を作成できますが、この技術では物理的なタンパク質を無から構築することはできません。
DNA製造業者は適切な遺伝子配列をつなぎ合わせ、合成遺伝子を研究室に送ります。コンピュータープログラムは注文を審査し、遺伝子が危険なタンパク質を合成しないことを確認します。
ホルヴィッツ氏らは、バイオセキュリティスクリーニングモデルのシミュレーションテストを実施し、AI生成タンパク質がフィルターをすり抜ける可能性のある脆弱性を発見した。
研究チームは、リシン、ボツリヌス神経毒素、そしてウイルスのヒト感染を助けるタンパク質など、72種類の有害タンパク質について約7万6000個の設計図を作成し、バイオセキュリティ検査では、ほぼ全てのタンパク質のDNAが元の形で検出されましたが、AIによって調整された多くの変異体は検出されませんでしたが、ソフトウェアパッチの活用により、遺伝子が断片化された後でも検出が可能になりました。
この研究は完全にコンピューター上で行われたため、研究チームは実験室で物理的なタンパク質を作ったわけではなく、AIが生成した変異体が機能を保持しているかどうかは不明とのこと。
実際には、バイオセキュリティ検査で問題のあるタンパク質の注文にフラグを立てることは「非常にまれなこと」だと、サンフランシスコに拠点を置くDNA合成会社ツイスト・バイオサイエンスの政策・バイオセキュリティ担当副社長、ジェームズ・ディガンズ氏は記者会見で述べた。サイバーセキュリティの脅威は常に発生しているものの、悪意あるタンパク質を作ろうとした事例は「ほぼゼロ」だとディガンズ氏は意見している。
引用
10月2日付けのScience誌