当前，到底什么是对民主的真正威胁？

Foto (Detail): © Adobe 

虚假的政客声音、人工智能支持的机器人电话或虚构的电视节目主持人：人工智能为传播虚假信息提供了大量新机会。在全球危机时期，这是对民主的真正威胁。

+++

2024年，任何支持民主的人都面临着一项艰巨的任务：拯救民主。今年，全球范围内将举行选举。同时，在美国被称为“民有、民治、民享”的制度正面临着越来越大的威胁，其严重程度我们尚未可知。

2024年，大约有40个国家的人民将选出新政府。当美国的选票在秋季开放时，大多数这些国家的选举已经结束，因此我们需要关注到参与民主的一个根基问题，这个问题在数字时代到来之前就已受到威胁：可信的信息。一个新的发展是生成式人工智能，统称“AI”。这个缩写背后隐藏着多重含义和可能性，也包括危险。生成式人工智能因一年前ChatGPT发布而引起了公众的关注，它究竟是福是祸？或者可能两者都不是？我们不久之后就会有一个更为清晰的认识。

温和一点来说，刚刚出现的一些早期迹象就不能让人产生信心。有些是近期发生的案例：据《金融时报》报道，在孟加拉国，亲政府的媒体和有影响力的人“传播了由人工智能初创公司使用廉价工具生成的人工智能虚假信息”。《连线》杂志（Wired）报道称，在斯洛伐克刚刚结束的选举中，利用候选人声音制作的虚假音频被散播出来，以削弱这些候选人的竞争力。在美国，美联社报道称，候选人已经开始使用人工智能驱动的自动电话系统，通过自动拨打电话引起人们对自己或其他政治候选人的兴趣。

这些情况虽然令人担忧，但彼此之间似乎并无关联。至今为止，它们似乎并不是一场明显是有组织的、旨在颠覆全球自由民主国家的运动的核心所在。然而，那些经常使用欺骗手段作为其说服利器一部分的人无疑会仔细研究这些新机会，并在可能的情况下对其加以广泛利用。

人工智能助长反民主势力

当前的人工智能热潮发生在全球生存危机不断升级之际。战争和气候变化已经成为大规模移民和经济失衡的原因之一。这些和其他危机造成了公众的广泛不安，也助长了右翼民粹主义的崛起，其中不乏完完全全的法西斯主义者以及许多蔑视民主的人。

人工智能是我们信息世界无情而迅猛发展的关键角色，它与其他强大的通信工具一起帮助那些支持反民主势力的恶意宣传者。尽管许多人都在努力帮助公众揭穿谎言，但欺骗的力量却在不断壮大。

别忘了：生成型人工智能还处于起步阶段。尽管媒体和利益集团可能夸大了它的直接影响和潜力，但它不容小觑。至少，它是一个令人着迷的潜在强大工具，最终可能形成一场革命。

它对政治的第一个重大影响可能就在于，它成为了已经对选举过程产生影响的数字技术的补充。我们早就知道如何精准地吸引小规模的选民群体。不久，选民将收到大量专门为他们定制的个性化信息。如今，带有虚假账户的机器人充斥在社交媒体平台上散布谎言，这背后的意图为是降低选民的投票参与度——但这些工具是比较愚钝的。很快，坏人就会给机器人配备先进的人工智能说服技术，并更精确地使用它们。

Arnaud Jaegers, unsplash.com

虚构的电视新闻播音员可能不会出现在主流电视台，但是他们的视频片段以及人工智能生成的真人记者的模仿视频将通过社交媒体广泛传播。一些平台正在抵抗这股浪潮，然而，要对进入庞大社交媒体网络的所有内容进行控制是不可想象的。

我们必须明白：即使有人能以某种神奇的方式将所有由人工智能优化的错误信息从公众领域中移除，根本问题仍未解决。记者喜欢抨击社交媒体，因为其内容使人愚昧。然而，数十年来，美国和其他地方的大型新闻媒体也一直在传播错误信息。在美国，人们从默多克旗下的福克斯新闻中受到的误导可能比所有网络黑子的加起来还多。全球范围内，强大的公司常常与政府联手开展宣传活动。如果我们不能阻止企业毒害公共领域，就更难找到全面的解决方案来对抗人工智能支持的网络错误信息。

尽管如此，我们还是应该尝试一下。我们的选择包括监管、审查、反措施和公众教育。

揭露、监管和媒体素养

在美国，致力于自由公正选举的布伦南司法中心（Brennan Center for Justice）是众多严格监管倡导者之一。该组织于12月发布了一份题为《政治领域中对AI深度伪造和合成媒体的监管》（Regulating AI Deepfakes and Synthetic Media in the Political Arena）的研究报告。报告阐述了监管的运作原则，并举例说明了保护选举过程的措施。这份报告致力于平衡相互竞争的利益。然而，这最终无法与民主社会言论自由的崇高理想相调和——毕竟，监管谎言的想法意味着毫无疑问应保持合法的言论也要受到监管。监管可能是可行的，但它总是存在问题。 

更好的反措施是有的。我们需要更好的工具来识别合成媒体及其动机，并确认及驳斥其内容。那些声称能识别AI生成文本的软件服务已经被证明是完全不可靠的，这使它们变得危险。在像欧洲的Bellingcat.com这样的开源情报项目中，人是决定性因素。至少在短期内，人类智能与机器智能的结合似乎是一个不错的基础。

另一种正在开发的可能的反措施是在媒体内容创建时就进行数字标记，这样应该能保证在内容被转发和修改时，标签仍能保留。根据“内容认证倡议”，公司、高校和其他利益集团共同研究相应的技术。该倡议前景广阔，但仍处于早期阶段，并抛出了各种有关媒体控制的难题。

媒体教育是长远且最佳的出路。媒体素养培训在欧洲比在美国更为普及，它为媒体使用者和媒体从业者提供了一个基础，使他们能够作出合理的判断。这样做能否保护我们免受专业煽动和谎言的侵袭？我们还不知道。但是，如果我们根本不尝试通过全面且持久的项目将这些技能普及给所有年龄段的人，我们将面临一个黑暗的未来。

原标题：《人工智能与选举——拯救民主迫在眉睫》
作者：丹·吉尔莫（Dan Gillmor），作家，学者。
文本版权：歌德学院，丹·吉尔莫
翻译：歌德学院

+++

延伸阅读