中国のAI「DeepSeek」はマルウェアや火炎瓶のガイドを簡単に生成可能、サイバー犯罪とセキュリティの恐怖を高める

犯罪行為を教示できる中国製AIに安全保障上の懸念が浮上

中国が開発したAIモデルが、犯罪に悪用される可能性のあるコンテンツを生成する可能性があることがテストで明らかになり、批判を浴びている。

北京の新興企業ディープシークが2025年1月に発表したR1モデルは、マルウェアの作成や火炎瓶の製造など、違法行為に関する手順を追ったガイダンスを提供することが判明している。

AIモデルがマルウェアのコードを簡単に共有

東京に本社を置く三井物産セキュアディレクションのサイバーセキュリティ専門家である吉川隆氏は、悪用される可能性を評価するためのテストを行った。

非倫理的な対応を引き出すことを目的とした指示を促すと、R1モデルは完全に機能するランサムウェアのソースコードを返した。

吉川は、悪意のある使用に対する免責条項を盛り込んだものの、競合するAIモデルの対応に決定的な違いがあることを強調した。

彼は言った、

"ChatGPTに同じ指示を出したら、返事を拒否された。"

これは明らかに、ディープシークのR1が同様の保護手段を欠いていることを示している。

米サイバーセキュリティ・チームが簡単なエクスプロイトを確認

米サイバーセキュリティー企業パロアルトネットワークス（Palo Alto Networks）の買収後、懸念はさらに深まった、独自の調査を実施 .

研究チームは、技術的なバックグラウンドを持たないユーザーでも、R1モデルにログイン認証情報を盗むためのプログラムのようなコンテンツを生成させることができることを確認した。

チームはAIの設計にガードレールがないことを強調し、こう報告した、

「その答えはシンプルで、誰でもすぐに実践できるものだった。

彼らの評価では、ディープシークは強固なセキュリティ・プロトコルを組み込むことよりも、迅速な立ち上げを優先した可能性が示唆されている。

プライバシー・リスクが高まる規制

このモデルが悪用される可能性だけでなく、ディープシークはデータのプライバシーに関する疑問にも直面している。

同社は中国にあるサーバーにユーザーデータを保存しており、アクセスや管理に対する懸念が高まっている。

その結果、韓国、オーストラリア、台湾を含むいくつかの国が、公的機関や企業環境でのディープシーク技術の使用を制限または禁止する方向に動いている。

日本では、自治体や企業が同様の注意を払っている。

桜美林大学の平良和宏教授によれば、このように言う、

"人々がディープシークのAIを使用する際には、その性能やコストだけでなく、安全性やセキュリティについても慎重に検討する必要がある。"

専門家は業界全体のセーフガードを求めている

R1の性能はChatGPTのようなモデルと同等で、より低価格で提供されると言われており、その急成長は世界市場で注目を集めている。

しかし、専門家たちは、このようなモデルは強固な保護措置なしに公表されるべきではないと警告している。

と吉川は言った、

"悪用されやすいAIモデルが増えれば、犯罪に利用されかねない。業界全体で、生成AIモデルの悪用防止対策の強化に取り組むべきだ。"

ディープシークのR1事件は、AIの利用しやすさ、商業的なスピード、倫理的責任のバランスについて、より広範な議論を巻き起こしている。