监管机构对人工智能的未来方向：“必须记录利益冲突”

2023年3月，美国证券交易委员会主席Gary Gensler将人工智能描述为“我们这个时代最具变革性的技术，与互联网和汽车的大规模生产不相上下”。

当任何突破性的工具到来时，都需要一段时间的适应。对于监管机构来说，这一点更为明显，他们需要迅速吸收足够的信息，不仅要理解，还要最终管理所讨论的技术。与此同时，无论好坏，这项技术都以惊人的速度渗透到这个行业，并建立了新的习惯。

随着人工智能的出现，已经处于压力之下的监管机构的作用变得更加具有挑战性。人工智能带来了巨大的复杂性和责任感，因此有效的治理至关重要。这是人类发展的关键时刻，包括金融在内的各个部门都需要吸取教训。

下面我们将分析监管机构的当前立场、人工智能已经进入的现有框架，以及其监管的地方。与任何其他高净值行业一样，金融服务业受到严格监管，以帮助遏制非法行为和操纵。每种资产类别都有自己的一套协议，以打击各自形式的滥用。在外汇领域，监管由多个司法管辖区的当局承担，尽管最终缺乏具有约束力的国际秩序。谁是行业领先的监管机构？监管机构，如英国金融行为监管局（与任何其他高净值行业一样，金融服务业受到严格监管，以帮助遏制非法行为和操纵。每种资产类别都有自己的一套协议，以打击各自形式的滥用行为。在外汇领域，监管由多个司法管辖区的当局承担，尽管最终缺乏具有约束力的国际秩序。谁是该行业的主要监管机构？英国金融行为管理局（阅读本术语可能是标题）等监管机构。

监管机构的立场

SEC：2023年7月，SEC主席Gensler在投资决策中提出了对人工智能的担忧，强调了技术平台主导地位的风险和人工智能模型中的潜在偏见。鉴于人工智能产生的错误信息错误地暗示了他的辞职，他的怀疑值得注意。

2024年6月，美国证券交易委员会投资者咨询委员会就人工智能的使用举行了小组讨论，Gensler重申了他的担忧，强调这可能会导致平台与其客户之间的利益冲突。他还强调，基本要求仍然适用，“市场参与者仍然需要遵守我们久经考验的法律”。

尽管如此，到目前为止，几乎没有提供具体的指导，去年讨论的一些提案仍在审议中。

FINRA：在2024年FINRA年度监管监督报告中，FINRA明确将人工智能归类为“新兴风险”，建议企业考虑其普遍影响及其部署的监管后果。

FINRA成员监督高级副总裁Ornella Bergeron表示，尽管人工智能的发展提高了运营效率，但仍存在担忧。

“虽然这些工具可以提供非常有前景的机会，但它们的发展引发了人们对准确性、隐私、偏见和知识产权等问题的担忧。”

2024年5月，FINRA发布了最新的常见问题解答，以澄清其对人工智能创建内容的立场。这些基本上强调了监管标准仍然适用，公司对其产出负责，无论产出是由人类还是人工智能产生的。

CFTC：商品期货交易委员会（CFTC）在人工智能方面相对活跃。5月，它发布了一份题为《金融市场中的负责任人工智能：机遇、风险和建议》的报告。这似乎表明CFTC希望监督这一领域。

该机构担心，由于其不透明的决策，人工智能可能会破坏公众对金融市场的信任。而美国商品期货交易委员会（CFTC）在1974年的《商品交易法》（CEA）中创建了商品期货交易委员（CFTC，Commodity Futures Trading Commission）。委员会保护和监管市场活动，防止操纵、欺诈和滥用交易行为，并促进期货合约的公平性。CEA还包括《Sad-Johnson协议》，该协议规定了商品期货交易委员会和证券交易委员会之间监督金融合同的权力和责任。美国1974年的《商品交易法》（CEA）创建了商品期货贸易委员会（CFTC）。委员会保护和监管市场活动，防止操纵、欺诈和滥用交易行为，并促进期货合约的公平性。CEA还包括《Sad-Johnson协议》，该协议规定了商品期货交易委员会和证券交易委员会之间监督金融合同的权力和责任。本学期，该报告强调了正在进行的联邦合作，并建议举行公开圆桌讨论，以增进理解并制定透明的政策。

现有框架如何受到影响？

美国证券交易委员会市场规则和美国金融业监管局规则2210等基本记录保存规定非常强调公司向客户传达的信息的准确性和完整性。人工智能工具的使用很可能会危及这些原则，因为语言模型以其不可预测且往往不准确的修辞而闻名。

正如FINRA早些时候澄清的那样，公司将对内容本身负责——用于创建内容的工具不一定相关。这意味着，至少在发布之前，应该彻底审查所有机器生成的输出。

AI清洗

尽管围绕人工智能的许多监管刚刚进入提案阶段，但我们已经开始在一些相关领域看到执法。

个人投资者应该知道，坏人正在利用人工智能的日益普及和复杂性来引诱受害者上当受骗。了解更多："https://t.co/uufbF19ZCSpic.twitter.com/ksT9KrvvvGq--美国证券交易委员会（@SECGov）2024年7月30日

今年3月，美国证券交易委员会启动了针对“人工智能清洗”的执法行动，指控两家投资咨询公司夸大其产品和服务中人工智能的使用，误导投资者。虽然这些案件的处罚很小，但美国证券交易委员会执法部门主任Gurbir Grewal证实，他们希望向行业发出一个信息。

“我希望这些行动能引起投资行业的注意。如果你急于声称在投资过程中使用人工智能来利用投资者日益增长的兴趣，那就停下来。退一步，问问自己：这些陈述准确地反映了我们正在做的事情吗，还是仅仅是出于抱负？

“如果是后者，你的行为可能构成违反联邦证券法的“人工智能清洗”类型。”

接下来是什么？

SEC：在6月份的投资咨询委员会会议上，SEC讨论了最初于2023年7月提出的规则，解决了在投资者互动中使用预测数据分析（PDA）的潜在利益冲突。这些建议要求记录任何这些利益冲突，然后迅速消除。

6月6日的小组成员基本上支持这些提议，现在预计这些提议将迅速推进。与此同时，通过迅速实施惩罚并发出关于人工智能清洗的信息，美国证券交易委员会似乎急于在更明确的情况下通过执法来展示实力。

FINRA：除了确认公司对聊天机器人生成的输出的责任外，FINRA常见问题解答的更新还强调，公司还必须监督这些通信。这意味着必须制定政策和程序。

在最新的#FINRA Unscripted一集中，我们听取了FINRA的3位专家的意见，他们正在密切关注生成式人工智能和大型语言模型，以及它们如何为公司、监管机构和投资者提供潜在的利益，尽管伴随着独特的风险。