アジア・テック2023ChatGPT世代における偽情報への取り組み

Asia Tech x Singapore (ATxSG)は、テクノロジー、社会、デジタル経済の世界が融合するアジアのプレミア・テクノロジー・イベントです。情報通信メディア開発庁（IMDA）とInforma Techが主催し、シンガポール政府観光局（STB）の貴重な支援を受けて開催されるATxSGは、ビジネス、テクノロジー、政府の各分野の架け橋となり、シンガポールならではの魅力的な議論を展開する震源地となっています。

2023年6月7日～9日、ATxSGが開催され、参加者が貴重な人脈を築き、進化し続けるテクノロジーの世界で一歩先を行くことができるよう、多数のイベントが同時開催された。このイベントは、様々な分野の先見者、専門家、愛好家が一堂に会し、最新の技術トレンドを探求し、差し迫った課題に取り組み、無数の機会を解き放つ比類ないプラットフォームとして機能している。

ChatGPT時代における偽情報との戦い方
偽情報の蔓延は、個人、政府機関、企業を問わず、差し迫った世界的な問題として浮上している。ChatGPTの素晴らしい能力に代表されるように、人工知能（AI）のような目覚ましい技術の出現が目立つこの時代において、重要なジレンマが生じる。建設的な目的のために計り知れない可能性を持つ一方で、欺瞞に満ちた物語を増幅させる強力な道具として悪用されることへの明白な不安が残る。

この難問に鑑みれば、オンライン領域における偽情報の拡散を抑制する効果的な方策を探ることが不可欠となる。どうすれば効果的に偽情報の拡散を阻止できるのか？誤った情報に対抗し、二極化が進む世界で調和を育むためには、どのような戦略を採用すればよいのだろうか。

これは、シンガポール・エキスポで開催されたアジア・テック2023の2日目に行われたパネル・ディスカッションで詳しく議論された。ChatGPT時代における偽情報との戦い方」と題されたパネルディスカッションでは、STエンジニアリングのSVP、サイバーセキュリティ戦略技術センター長のVrizlynn Thing博士、シンガポール銀行のデータ分析・ガバナンス担当プロダクトオーナーのKim Hong Mak氏、シンガポール国立大学の副学長、シニア・ディレクター（AIガバナンス）のSimon Chesterman氏、SMUの法学部准教授、AI・データガバナンスセンター副所長のWarren Chik氏など、著名なエグゼクティブが意見を述べた。セッションのモデレーターは、トニー・ブレア地球変動研究所のマリー・テオ氏（コミュニティ・マネージャー、パートナーシップ＆ランプ、イニシアティブ）が務めた。

偽情報は真実と重なる
"偽情報 "は "真実でないこと "と重なるが、私たちが心配しているのは "真実でないこと "だけではない。つまり、風刺、パロディ、噂など、私たちは必ずしも気にしていない。だから、私が考えたいのは2×2のマトリックスだ。しかし、その意図についても考える必要がある。その意図は良いものなのか、それとも悪いものなのか？この2×2のマトリックスを考えると、真、偽、善意、悪意ということになる」とサイモンは説明した。

彼は、ソーシャルメディア空間における最大の問題の一つは、善意による虚偽であると表明した。人々が情報を共有するが、それが真実であろうと嘘であろうとあまり気にせず、情報が刺激的であればいい、というようなものだ。サイモンによれば、これは誤報と呼ばれるもので、基本的には無邪気に共有される偽情報である。しかし、偽情報の場合は、故意に虚偽の意図を共有することである。第三のカテゴリーがあり、それは悪意を持ってもっともらしい真実の情報を共有することである。

ジェネレーティブAIの結果、偽情報が統合されるスピードはかつてないほど速い
キム・ホン・マックは、ジェネレーティブAIの時代における偽情報の広がりは、スピード、量、信憑性という3つの要因によるものだとした。本物のニュースとAIプログラムによって生成されたニュースを見分けるのは難しくなっている。動画でさえ、スクリプトはすべてAIプログラムによって書かれる。

その場合、どのようなビジネスにおいても、まず第一に信頼が必要だ。そして教育が非常に重要だ。まず、組織内の従業員に対しては、偽の情報を見分け、不審な点があれば報告できるようにする必要がある。ある意味、彼らは私たちの特別な目なのです。次に、ビジネスの中心である顧客である。

結局のところ、何が生み出されたかという結果であり、最終製品である
ヴリズリン・シング博士は、次のように説明した。「検知と予防、そして緩和のパイプラインを考えるとき、私たちはより全体的な角度からそれを見なければなりません......生成的なAIモデルが作られるとき、それをより事実に敏感にする方法はないのでしょうか？私たちは皆、AIの幻覚問題を認識しているからだ。AIが事実に基づいた情報を生み出すという点で、より良いパフォーマンスを発揮できるように、学習用にデータを送る前にデータをチェックし、検証し、クリーンにしているのだろうか？"

また、これらのモデルによって生成されたデータに特定のパターンを埋め込むことで、人間が生成したデータではなく、合成データであることを容易に検出できるようにすることも考えられる。

ジェネレーティブAIの禁止はほとんどの国ではあり得ない
ウォーレン・チクは、シンガポールは非常に促進的なアプローチをとっており、私たちは偽の情報が出回っていても生きていかなければならない、と詳しく説明した。こういった情報が悪影響を及ぼす場合は、政府が介入する。テクノロジーのようなものについては、まだ懐疑的な見方もあるようだ。規制に関しては、政治的、文化的な違いも一役買っている。

全体として、こうした製品を開発・発売する際には、倫理性、透明性、誠実さをより重視する必要がある。また、過剰な規制と過小な規制の間には実に微妙なバランスがある。