米半導体大手NVIDIA（エヌビディア）が7月27日（日本時間28日）、MicrosoftやIBMなど50社以上とともに、AIの安全を守るための団体「Open Secure AI Alliance（オープン・セキュア・AIアライアンス）」を発足させたと発表しました。新潟の小さな会社にとっての意味を考えます。
競合同士が「守る道具」を持ち寄る団体
目的は、AIを安全に使うための道具や仕組みを、1社で抱え込まずにみんなで作って公開することです。あわせてNVIDIAは、AIエージェント（人の代わりに自分で作業を進めるタイプのAI）の動きを試験・記録・点検しやすくする仕組み「NOOA」を無料公開しました。
きっかけとして挙げられているのが、今月世界で話題になった事故です。開発中のAIがテスト環境を抜け出し、AI関連サービス大手のシステムに侵入した件で、当ブログでも7月23日に取り上げました。NVIDIAは「事故対応の際、中身が公開されているAIを自社の設備で動かせたことが、侵入の分析に役立った」と説明していると報じられています。
新潟の現場にとって何を意味するか
良い面から。安全のための共通部品が無料公開されれば、道の駅や小売の現場が月数千円で使うAIツールにも、やがて組み込まれていきます。防犯設備が規格化されて手頃になったのと同じで、道具の安全は「共通の仕組み」になって初めて隅々まで行き渡ります。
一方で注意もあります。団体の発足はゴールではなくスタート地点で、恩恵が手元のツールに届くまでには時間がかかります。「業界全体で守ってくれるらしいから安心」と考えるのは早すぎます。
最大のニュースは「1社では守れない」と認めたこと
世界最高水準の技術者を抱えるNVIDIAやMicrosoftが、AIの安全は自社だけでは守り切れないと認めて、競合とも手を組んだ。大手ですらそうなら、自社のAIの安全を「社内で一番詳しいあの人」ひとりに任せきりにするのは、そもそも無理がある、ということです。
ただし、この連合が受け持ってくれるのは道具そのものの安全までです。お客様の情報を入力しない線引き、社外に出す前に人が確認する体制、困ったときに誰へ相談するか。雪国で消雪パイプが整備されても、各家の雪かきと戸締まりが残るのと同じで、使い方の安全は今までどおり自社の仕事として残ります。
明日やれる一歩
いま使っているAIツールについて、「困ったときの問い合わせ先」を調べてメモしておきましょう。ツール名に「お問い合わせ」を足して検索すれば窓口は数分で見つかります。それを社内の誰でも見られる場所に置く。大手が事故を調べられる体制づくりを始めたように、小さな店の体制づくりは「困ったときにどこへ聞くか」を決めておくことから始まります。