加州法律如何应对人工智能在选举中的深度造假？

摘要： 　　　　加州萨克拉门托——加州州长加文·纽森(Gavin Newsom)在旧金山举行的人工智能会议上，签署了三项具有重要意义的提案，使加州在2024年大选前拥有了美国最严格...

　　加州萨克拉门托——加州州长加文·纽森(Gavin Newsom)在旧金山举行的人工智能会议上，签署了三项具有重要意义的提案，使加州在2024年大选前拥有了美国最严格的法律之一，以打击选举中的深度造假行为。

　　该州可能成为首批实施此类立法的州之一，这项法律禁止在选举日临近时的政治广告中使用人工智能生成的虚假图像和视频。

　　随着人工智能的出现加剧了全球选举虚假信息的威胁，多个州的立法者提出了类似的提案，而加州的新法律则是最为全面的。它不仅针对可能影响投票的材料，还包括任何可能扭曲选举公正性的视频和图像，甚至涵盖了描绘选举工作人员和投票机的内容，而不仅限于政治候选人。

　　在纽森签署的三项法律中，只有一项立即生效，旨在防止围绕2024年大选的深度造假。这项法案规定，在选举日之前120天及选举日后60天内制作和发布与选举相关的虚假材料是违法的，并允许法院停止材料的分发，违规者可能面临民事处罚。法律不允许模仿和讽刺。

　　纽森和立法者们表示，这项措施旨在在“令人担忧的政治气候”中，保护公众对美国选举的信任不被侵蚀。

　　这项立法引发了言论自由倡导者和社交媒体平台运营商的强烈反对。

　　社交媒体平台X的所有者埃隆·马斯克(Elon Musk)表示，加州的新法律违宪，违反了美国宪法第一修正案。

　　在这些法案签署成为法律的几个小时后，马斯克在X上发布了一段人工智能生成的视频，包含副总统、民主党总统候选人卡玛拉·哈里斯的音频。他发布的另一条以哈里斯为主题的深度造假帖子促使纽森誓言在7月通过立法打击此类行为。

　　“加州州长刚刚宣布这段恶搞视频违法，违反了美国宪法。如果它像病毒一样传播，那将是一种耻辱，”马斯克在评论这段人工智能生成的视频时写道，并在配文中指出这段视频是恶搞。

　　然而，非营利消费者权益组织Public Citizen的伊拉娜·贝勒(Ilana Beller)表示，目前尚不清楚这些法律在阻止选举深度造假方面的实际效果。该组织追踪与选举造假相关的州立法。

　　贝勒指出，这些法律尚未经过法庭的检验。

　　法律的效力可能会因法院对能够快速制作和传播虚假图像的技术反应迟缓而受到影响。

　　贝勒表示，法院可能需要几天时间才能下达禁令，以阻止内容的传播，而在此期间，候选人或选举可能已经受到损害。

　　她说：“在理想情况下，我们能够在内容出现的第一时间将其删除。因为你越早删除内容，看到它的人就越少，通过转发和点赞传播的人也就越少，这样就能更快地消除它。”

　　尽管如此，她认为将这样的法律写入法律可能会对潜在的违规行为起到威慑作用。

　　纽森办公室尚未对此马斯克的帖子是否违反新州法律作出回应。

　　该法案的起草者、国会议员盖尔•佩尔兰(Gail Pellerin)周三未能立即联系以作评论。

　　纽森周二还签署了另外两项法律，基于2019年在加州颁布的针对选举深度造假的全国首例立法，要求竞选活动开始披露人工智能生成的材料，并要求X等在线平台删除欺骗性材料。这些法律将在2024年大选后的明年生效。