擅长制造假消息 学者：AI或在选举兴风作浪

CKLiew97

战略与国际研究所(ISIS)高级分析师哈里斯扎努（ Harris Zainu） 担忧，近期发展迅速的人工智能（AI），可能会未来的选举兴风作浪，通过制造各种假讯息影响选民。


他认为，在接下来的6州选举，或许还见不到人工智能的影响， 但不可低估人工智能在未来选举中被用于诽谤宣传的风险。


他说，各方都应该意识到人工智能使用上的问题，这些问题在美国等先进国家，开始引起技术专家和政治人物的广泛讨论，美国最近举行了参议院听证会，也讨论了人工智能对大选的风险。


他指出，目前尽管在大马，还没有证据显示，有人工智态制造资讯“喂养”网络使用者，但各方都应该对这个问题保持谨慎。


“要注意的是，人工智能所处理的图像、视频和音频的，已经达到难辨真假的地位。在选举期间混乱的信息环境中，选民可能会被这些几可乱真的图像、视频和音频所操纵。”


哈里斯表示，大马一直在讨论此事，自2019 年初以来，他一直在撰写有关新技术和可能对民主构成威胁的话题。


“我的担忧与两件事有关。首先，这项技术在没有监管框架的情况下被快速、安静地使用，没有透明度，也没有对传播‘虚假信息’的人进行适当的惩罚。”


他也担心，如果仓促立法，也可能会导致政府审查资讯与限制言论自由的风险。


哈里斯表示，政府在制定或修改相关法律时，需要采取谨慎和彻底的方法。


他说，立法者应该在合法控制与打击“虚假消息”，无论是政治信息还是其他信息，并在维护言论自由之间取得平衡。


他强调，言论自由，尤其是政治言论自由，是民主的基础。


当被问及未来的选举是否会看到机器人比网络战士更广泛地部署时，哈里斯认为机器人不会很快取代人类用户。


他解释，主要原因是创建一个可以自主运行并以一致的方式创建和响应政治话题的机器人的成本。 对比雇用个人来处理假账户的成本，这种高科技机器人的成本目前仍然相当高。


哈里斯认为，人工智能驱动的语言建模技术，例如 ChatGPT，将会提高政治代理人进行宣传的效率。


“这有助于促进新政治内容的创造，并最终淹没在大量的信息之中。这可能包括错误信息和虚假信息。”

羅馬王子

AI很好用。