乔-拜登总统最近的行政命令订单 该报告于 10 月 30 日发布，引起了科技界的关注。

这项综合性命令旨在制定严格的人工智能（AI）安全标准，重点是保护公民、政府实体和公司的安全。

它引入了六项新的人工智能安全和安保标准，所有标准都符合 "安全、安保、信任、开放 "的原则；

透明度任务：共享安全测试结果

行政命令中值得注意的一点是，要求开发对国家安全、经济安全或公众健康构成重大风险的基础模型的公司与官员分享其安全测试结果。

这一要求旨在确保人工智能开发的透明度和问责制，促进更安全、更可靠的人工智能技术。

开源困境：缺乏明确指导

尽管行政命令的初衷是好的，但它还是引发了人工智能界的担忧，尤其是在开源开发领域。

由于缺乏具体的实施细节，人们不禁要问，该命令将如何影响依赖社区驱动创新的开源人工智能。

这种模糊性使开发人员无法确定对顶级模型开发的影响。

业内专家反应不一

业内专家对该行政令的反应不一。Struck Capital 创始合伙人、人工智能投资者亚当-斯特拉克（Adam Struck）称赞行政令承认了人工智能的变革潜力。

不过，他也强调了开发人员在预测未来风险方面所面临的挑战，尤其是在开源社区，因为那里的命令缺乏明确的指令。

行政命令概述了政府打算通过监管机构内的人工智能主管和治理委员会来管理人工智能准则。

这种方法意味着，在这些机构内运营的公司需要遵守政府批准的监管框架。预计这些框架将重点关注数据合规性、隐私保护和无偏见算法的开发。

开放源码倡导与关注

风险投资公司安德森-霍洛维茨（Andreessen Horowitz）的普通合伙人马丁-卡萨多（Martin Casado）对行政命令对开源人工智能的潜在影响表示担忧。

他与其他人工智能专家一起致信拜登政府，强调开源在维护软件安全和防止垄断方面的重要性。批评者认为，该命令对人工智能模型类型的宽泛定义可能会给小公司带来挑战，它们可能难以满足为大公司设计的要求。

创新面临风险：有害影响

Gensyn 公司的杰夫-阿米科（Jeff Amico）也表达了同样的担忧，称该命令不利于美国的创新。

过度监管对人工智能变革潜力的潜在影响及其阻碍各行业创新的可能性已成为争议焦点。

Nanotronics 公司首席执行官兼联合创始人马修-普特曼（Matthew Putman）强调，监管框架必须优先考虑消费者安全和合乎道德的人工智能发展。

他告诫人们不要过度监管，同时也指出，对人工智能灾难性潜力的担忧往往被夸大了。他强调了人工智能的积极影响，特别是在先进制造业、生物技术和能源领域，人工智能技术通过改进流程、减少浪费和排放，推动了一场可持续发展革命。

未来之路：人工智能安全研究所联盟

随着该行政命令的出台，美国国家标准与技术研究院和商务部已经启动了人工智能安全研究所联盟。

该联盟寻求成员为人工智能安全工作做出贡献，确保以平衡的方式制定安全标准，既鼓励创新，又保护公众。

拜登总统的行政命令虽然用心良苦，但也存在监管过度的风险，可能会扼杀人工智能的变革潜力，阻碍各行各业的创新。在人工智能界驾驭不断变化的人工智能监管格局的过程中，如何在安全与创新之间取得适当的平衡仍然是一项重大挑战。