AIは問題ではなく解決策

組織のセキュリティ対策
2023.8.10
更新日：2023.8.24

AI（人工知能）／ML（機械学習）は最近、巨悪として描かれています。このブログでは、私たちがより良い未来を作るためにAIを活用できるような、異なる見方を提案します。

Yuval Noah Harariが書いているように、1万年前、小麦は人間を家畜化しました。私たちは今、地球上に80億人の人口を生み出すことを可能にした食料を享受していますが、それには代償が伴いました。私たちは将来、AIを同様に、私たちの生活を容易にしましたが、依存関係を生み出した革命と見なすのでしょうか。

リスクに対処するには、「テクノロジーを採用する」、「テクノロジーに反対する」、「テクノロジーなしで生きていく計画を立てる」の 3 つの方法があります。

テクノロジーを採用
テクノロジーを保護するために最善を尽くしましょう。DLP（データ漏洩防止）ソリューションが良い例で、機密情報が組織から流出しないようにユーザーをサポートします。Google翻訳やその他のサードパーティソリューションに加え、ChatGPTエンジンへの漏洩を防ぐことができます。サイバーセキュリティの領域では、違法な手段を使用する攻撃者に対抗することになるため、AI/ML技術を攻撃から保護することはより困難です。NIST（米国国立標準技術研究所）、Microsoft、MITRE、そして最近のOWASP（オープン・ウェブ・アプリケーション・セキュリティ・プロジェクト）のLLM（大規模言語モデル）に関する出版物を参照してください。注意点は、「AI の冬」が 2 回あったということです。もし3度目のAIの冬が訪れれば、未使用のテクノロジーを保護するための投資は不要になります。

2. テクノロジーに反対
Luddite （ラッダイト）のように反対することを私は恐れています。BLUEPRINT FOR AN AI BILL OF RIGHTSには次のように記載されています。「自動化システムは、あなたやあなたのコミュニティの安全を危険にさらす意図や合理的に予見可能な可能性をもって設計されるべきではありません。」この反対は、軍事利用を禁止するだけでなく、人間の死亡事故を引き起こすことが知られているため、自動運転や自動エレベーターさえも禁止することになります。
サイバーセキュリティの領域では、過剰な規制は、攻撃者がAI/ML技術を悪意のある目的のために使用するという問題を解決しません。彼らはまた新たな違法行為をリストに加えるかもしれません。テロリストがYouTubeのポリシーを悪用し、ジャーナリストを潜伏させたアルハヤット・アルカイダの記事を参照してください。時期尚早な規制は、1894 年の馬糞大危機のような事態につながる可能性があります。賢明な人々が将来の災害に備えようとしたものの、実現しませんでした。

3. テクノロジーなし
アーミッシュのように、テクノロジーがなくても生きていけるようなバックアッププランを立てます。その場合、手動によるバックアップ手順を持つことは有望なアイデアです。アーミッシュのテクノロジー拒絶に同意するかどうかは別として、ある意味、大災害に対する保険のようなものです。アーミッシュは核兵器からは守られていませんが、すべての電子機器を破壊するEMPの破壊的な影響に対してはあまり影響を受けません。
EU（欧州連合）の規制の中には、ヨーロッパ人よりも多くのペンギンがGoogle Bardを使えるように、アーミッシュのような環境を作ることにつながるものもあります。古いテクノロジーを使おうとしても、ChatGPTが生成したフィッシング攻撃のように、AI/ML攻撃者に脆弱であることに変わりはないです。コブラ効果のような予期せぬ結果に注意してください。例えば、テクノロジーによる監視を避ける一般的な方法は、オプトアウトすることです。自分の車を “追跡禁止 “リストに追加し、すべての交通管制カメラの対象から外すと、赤信号で永遠に待たされることになるかもしれません。

私は、テクノロジーに中立でなければならないと主張します。法廷から映像が流出すると憲法修正第14条の権利が侵害されると主張するのであれば、カメラだけでなく、手書きの絵も禁止する必要があります。非MLモデルを使用しても、バイアス防止ルールに従う必要があります。従業員を訓練したことを示すことで、従業員の不正行為に対する雇用者の責任を緩和するのであれば、MLについても同じことができます（Model for Algorithmic Transparency (ヘブライ語)を参照）。

上記の課題はすべて簡単ではないため、Trellixは現時点でそれらすべてを完全に解決できない可能性があります。しかし、思想的リーダーとして、私たちは議論を始めたいと思います。いくつかの問題を整理することから始めましょう。

モデル反転攻撃による抽出方法であっても、トレーニング済みモデルの漏洩をカバーするようにDLP定義を拡張できますか。 TrellixのMER (Minimum Escalation Requirements) ツールにはサニタイズ機能があるため、トレーニングに使用された機密データサンプルの推定を困難にするMLモデルのサニタイズ機能を追加することもできますか。
当社には、静的分析と動的分析を使用してプロセスを悪意のあるものとして分類するマルウェア対策ツールがあります。AI/MLは新たな課題をもたらします。IBMのDeepLockerのストーリーを参照してください。MLモデルをピアできるようにマルウェア対策エンジンを拡張できますか。攻撃者に対して私たちが取り組んでいるという事実により、AI-ML規制の概念はほとんど役に立たないことにもう一度注意してください。ディープロッカーのような隠蔽アルゴリズムの使用を禁止することはできますが、従うのは善良な者だけです。☹
Trellixには、MLモデルを使用するURL分類ソリューションがあり、ユーザーが正しい分類を更新できるようにすることで、モデルをドリフトさせる可能性のあるデータポイズニング攻撃への扉を開きます。このような攻撃を防御する正しい方法は何でしょうか。
などなど。
私はAIが問題ではないと信じています。それは解決策なのです。Trellixは何十年にもわたって高度なツールを使用しており、同様に高度なソリューションで上記の困難な課題にも対処できると確信しています。