揭露风险：SEC 加里·詹斯勒 (Gary Gensler) 对人工智能的潜在陷阱提出了新的看法

美国 (US) 证券交易委员会 (SEC) 主席加里·詹斯勒 (Gary Gensler) 深入研究了人工智能 (AI) 领域和加密货币市场昨天在国家新闻俱乐部发表的讲话 。

他表示，人工智能是“我们这个时代最具变革性的技术”。堪比互联网和汽车大规模生产的革命性影响。然而，这个发人深省的观点却有一个转折。尽管他被誉为严格的监管者，监督最近的“加密货币打击”，他对人工智能对市场的影响持保留态度。

随着人工智能领域的快速发展，人们越来越担心相关的发展和风险。值得注意的是，加里即将于 2023 年 7 月 19 日在参议院拨款委员会露面。在这次露面期间，他将在委员会对 SEC 2024 财年预算的审查中发表讲话。

如果追求加密货币不起作用，那么下一步就追求人工智能
加里以其反对加密货币的坚定立场以及对“挺身而出并遵守”的坚定承诺而闻名。 SEC的策略引起了广泛关注。然而，考虑到最近法官 Analisa Torres 对 Ripple 诉 SEC 诉讼的裁决，这对 SEC 来说是一个重大挫折，这似乎粉碎了他的势头，感觉他已经将新的目光投向了另一个行业——人工智能。

他阐明了迫在眉睫的“重大”事件。劳动力市场的变革以及中美之间争夺人工智能系统开发霸主地位的竞争加剧。然而，这些担忧仅仅触及了未来潜在挑战的表面。

鉴于对数据和计算能力的需求不断增长，加里还对该领域的一些技术平台的潜在主导地位提出了至关重要的担忧。这种平台数量有限的情况对寻求多样化人工智能模型的公司构成了重大挑战。如果人工智能模型提供不准确或不相关的信息，金融机构就有可能采用有缺陷的数据，从而做出错误的决策。他表示，这让人想起2008年金融危机，当时银行盲目追随信用评级机构的引导，或者推特驱动的针对硅谷银行的狂潮。

“人工智能可能会加剧金融脆弱性，因为它可能会促进个体行为者做出类似的决策，因为他们从基础模型或数据聚合器获得相同的信号。这可能会鼓励单一文化。”

在考虑羊群行为对股市崩盘的影响时，加里的见解引起了强烈共鸣。一个值得注意的2001 年由普林斯顿大学经济学教授 Markus Konrad Brunnermeier 进行的研究 ，确定这种羊群行为在解释这些市场低迷方面发挥着重要作用。

另外，最近的一个匈牙利佩奇大学的 Asad Ayoub 和 Ayman Balawi 于 2022 年进行的研究 进一步巩固了这一概念，证实了羊群行为在熊市和牛市中都会影响股票价格。鉴于这些发现，他发出警告，担心如果少数占主导地位的科技公司统治人工智能领域，这种羊群行为可能会加剧。

金融领域的生成式人工智能
人工智能系统早已融入金融领域的各个方面。值得注意的是，保险公司和债权人利用算法和自然语言处理的力量来分析财务数据，帮助他们就贷款金额做出明智的决定。此外，贸易公司利用人工智能技术来快速识别欺诈行为并检测市场信号，超越了人类观察者盯着电脑屏幕的能力。

在这种背景下，加里将注意力转向大型语言模型（LLM），认为它们是“我们这个时代最具变革性的技术”。然而，值得注意的是，他的言论有时会将这一特定类别的人工智能技术与更广泛的人工智能领域混为一谈，尽管这些系统不一定会带来相同的风险或引发相同的询问。此外，他承认，作为法学硕士的一个子集，生成式人工智能尚未在金融行业得到广泛采用。

“一个甚至少数人工智能平台占据主导地位的可能性会引发金融稳定性问题……在麻省理工学院时，莉莉·贝利和我写了一篇关于其中一些问题的论文，名为‘深度学习和金融稳定’。生成式人工智能模型的最新进展使这些挑战更有可能发生。”

AI有潜力取代人类吗？
加里接着强调了其他关键问题，例如人工智能在数据隐私和知识产权方面的实施所带来的重大挑战。值得注意的是，他提请人们关注正在进行的好莱坞编剧和演员的创作。罢工，旨在解决这些问题。参与罢工的编剧们对赔偿纠纷和人工智能在娱乐制作中的使用提出了担忧，他们认为该技术有潜力通过将他们的作品用作培训材料来取代他们。

他承认，作为个人，我们都为训练人工智能模型的参数做出了贡献，这就引出了一个关键问题：“这是谁的数据？”正如 SEC 主席所说，这场有争议的辩论目前正在展开，他强调了他将密切关注其进展的承诺。

“对于美国证券交易委员会来说，面临的挑战是在资本市场中心可能占据主导地位的基础层的情况下促进竞争性、高效的市场。我相信我们必须仔细评估这一点，以便我们能够继续促进竞争、透明度和公平的市场准入。”

他提供了一个讽刺的解决方案
这位 SEC 主席声称，仅仅依靠风险管理工具不足以减轻先进人工智能工具对美国和全球金融体系带来的风险。此外，面对“新一波数据分析”的突破性进步，现有的护栏已经过时。

“人工智能未来可能对金融稳定带来的许多挑战......将需要对全系统或宏观审慎政策干预进行新的思考。”

讽刺的是，加里提出了一个有趣的提议来修改当前时代的法规——这本身就是一个意想不到的解决方案：人工智能。

“在认识到这些挑战的同时，美国证券交易委员会的工作人员在市场监督、披露审查、检查、执法和经济分析中更多地利用人工智能，也能让我们受益匪浅。”