让建站和SEO变得简单

让不懂建站的用户快速建站,让会建站的提高建站效率!


线上炒股配资 拜登来电莫迪跳舞?别被骗!AI造假打开潘多拉魔盒?

发布日期:2024-06-17 13:17    点击次数:78

  中新网2月21日电(陈彩霞) “真是一派胡言!重要的是,你要把选票留到11月的选举中。本周的投票只会让共和党人再次选举唐纳德·特朗普……”近期,在美国新罕布什尔州举行初选前,很多美国人接到了“美国总统拜登”的电话留言,而这通电话被认为是人工智能(AI)生成的“虚假电话”。

  随着生成式人工智能(GAI)时代的到来,“眼见为实”“有图有真相”逐渐被颠覆。2024年开年,美国OpenAI公司发布了首个文生视频模型“Sora”,在振奋科技圈的同时,也让人们对AI生成的假视频和假图片泛滥的担忧与日俱增。大量“深度伪造”视频的出现,可能对选举等政治和安全领域产生负面影响,世界各国仍需合作来应对这一挑战。

  “AI换脸”真假难辨

  多国政要“躺枪”

  近年来,AI技术发展迅猛,文生图、文生视频的工具如Pika、Sora等层出不穷。而“AI换脸”也通过深度合成算法处理,为“二度创作”提供了支持。深度伪造技术似乎愈发出格,甚至多国政要也纷纷“躺枪”……

  2023年3月18日,美国前总统特朗普曾在社交媒体上发文称,他预计自己将于2023年3月21日被捕。此消息一出,“特朗普被捕”的“照片”在一些社交平台迅速流传开来。这些“照片”包括“特朗普被警察围捕”、“特朗普穿囚服”,甚至还有“特朗普越狱”,精彩程度堪比好莱坞大片。

  日本首相岸田文雄也曾因“AI换脸”技术“躺枪”。2023年11月,日本一名25岁男子借助AI技术,制作了“岸田文雄开发布会”的假视频。

  视频中的“岸田”身着西装,神态紧张,语气郑重。该视频还带有日本电视台的台标和“突发新闻”字样。这条假视频上线仅一天,播放量就超过230万次。

  印度总理莫迪也曾陷“深度伪造”风波。2023年11月,一段“莫迪跳舞”的视频在网上疯传。视频中,“莫迪”和其他舞者身穿传统服饰,围成一个圈,欢快地跳着印度古吉拉特邦的一种节日舞蹈——加尔巴舞。

  莫迪亲自辟谣,称视频是AI合成的。他警告称,“人们会误以为自己看见的是真实的,这会引发巨大危机……在人工智能时代,负责任地使用技术很重要。”

  新加坡总理李显龙2023年底也在社交媒体发文称,近日出现了一些利用他的音频制作的深度伪造视频,宣传加密货币骗局。流传的伪造视频中,李显龙提到获新加坡政府批准的投资机会,并推广了一个所谓由特斯拉首席执行官马斯克设计的“革命性投资平台”。李显龙呼吁公众提高警惕,切勿上当受骗。

  政治“深伪”时刻到来?

  AI安全成焦点

  除了满足网络受众的猎奇心理和社交需求,AI技术近来逐渐在选举中崭露头角,它与政治的融合既带来进步,也带来“陷阱”。

  瓦拉斯谴责网上发布的有关他的虚假视频。图片来源:美国哥伦比亚广播公司(CBS)报道截图

  2023年2月,美国芝加哥市长选举前夕,一段“温和派民主党候选人保罗·瓦拉斯猛烈抨击芝加哥”的视频在网络迅速流传。视频中,瓦拉斯称,由于缺乏法律和秩序,芝加哥已经变成一个“无法无天”的真空地带,而且“警察随随便便就可以射杀嫌疑人,人们却对这些情况视而不见”。

  不过,这段视频被证明是AI合成。虽然社交平台最后删除了该视频,但其产生的负面影响仍无法消除,瓦拉斯也在市长选举中不敌对手布兰登·约翰逊。

  《今日美国报》援引布鲁金斯学会技术创新中心高级研究员达雷尔·韦斯特的话称,“2024年的美国大选,将会出现人工智能(AI)生成的虚假信息‘海啸’。我们已看到这种情况,且情况将会变得更糟。”

  美国政府监管组织“捍卫公众利益组织”负责人罗伯特·韦斯曼也称,政治“深度伪造”时刻已经到来,政策制定者必须尽快采取保护措施,否则将面临“选举混乱”。

  关于AI可能被用来误导选民和恶意歪曲选举的担忧,在2024年这个“全球超级大选年”急剧上升。

  2月16日,OpenAI、亚马逊、谷歌、微软、TikTok、脸书的母公司“元”、社交平台X(原推特)等全球多家领先的科技企业,在第60届慕尼黑安全会议(慕安会)上签署协议,承诺在2024年这个多国举行重要选举的年份,通过技术部署,减少利用人工智能生成和分发欺骗性内容干扰选举的风险。

  “政府需要在人工智能领域扮演重要角色,确保设置安全屏障和护栏,让产业内人士知道,哪些能做线上炒股配资,哪些不能做。”美国消费者技术协会首席执行官夏皮罗如是说道。(完)