.:. 草榴社區 » 技術討論區 » 欢迎来到病毒式 AI 生成“新闻”图像的时代
--> 本頁主題: 欢迎来到病毒式 AI 生成“新闻”图像的时代 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
掂過碌蔗


級別:精靈王 ( 12 )
發帖:28893
威望:3758 點
金錢:21415 USD
貢獻:2000 點
註冊:2020-07-17


欢迎来到病毒式 AI 生成“新闻”图像的时代



教皇弗朗西斯 穿着一件厚重的白色羽绒服。埃隆·马斯克 (Elon Musk) 与竞争对手通用汽车 (GM) 首席执行官玛丽·博拉 (Mary Barra) 携手同行。前总统唐纳德特朗普以戏剧性的方式 被警方拘留。

 



这些事情都没有真正发生,但人工智能生成的描绘它们的图像在过去一周确实在网上疯传。

这些图片从明显是假的到在某些情况下非常真实,它们愚弄了一些社交媒体用户。例如,模特兼电视名人克里斯西·泰根 (Chrissy Teigen)在推特上说,她认为教皇的羽绒服是真的,并说:“没想过。我不可能在技术的未来中幸存下来。” 这些图片还引发了一系列头条新闻,因为新闻机构急于揭穿虚假图片,尤其是特朗普的图片,特朗普最终于周四被曼哈顿大陪审团起诉,但尚未被捕。

这种情况表明了一个新的在线现实: 新一批流行的人工智能工具的兴起使得创建逼真的图像以及音频和视频变得比以往任何时候都更便宜、更容易。这些图片可能会越来越频繁地出现在社交媒体上。

虽然这些人工智能工具可能会带来表达创造力的新方式,但计算机生成媒体的传播也有可能进一步污染信息生态系统。在多年与视觉效果远不那么复杂的在线错误信息作斗争之后,这可能会增加用户、新闻机构和社交媒体平台审查真实性的挑战。还有人担心人工智能生成的图像可能会被用于骚扰,或进一步驱散分裂的互联网用户。

“我担心它会发展到这样一个地步,即网上会出现如此多的虚假、高度现实的内容,以至于大多数人只会以他们的部落本能作为他们认为真实的指南,而不是基于实际知情的意见基于经过验证的证据,”合成媒体专家 Henry Ajder 说,他是公司和政府机构的顾问,包括 Meta Reality Labs 的欧洲咨询委员会。

 
上周,调查组 Bellingcat 的创始人兼创意总监艾略特希金斯 (Eliot Higgins) 在推特上发布了前总统唐纳德特朗普的假照片。希金斯说他用人工智能图像生成器 Midjourney 创建了它们

非营利组织Partnership on AI 的人工智能和媒体诚信负责人克莱尔·莱博维茨 (Claire Leibowicz) 表示,与 最近因ChatGPT 等工具而激增的人工智能生成的文本相比,图像在人们观看图像时尤其能激发人们的情绪。产业集团。这会使人们更难放慢速度并评估他们正在看的东西是真的还是假的。

更重要的是,协调一致的不良行为者最终可能会尝试批量创建虚假内容——或暗示真实内容是计算机生成的——以混淆互联网用户并引发某些行为。

威胁情报组织 Memetica 首席执行官本·德克尔 (Ben Decker) 表示:“即将到来的特朗普的偏执......潜在的逮捕创造了一个非常有用的案例研究,以了解潜在的影响是什么,我认为我们非常幸运,事情没有向南发展。” . “因为如果更多的人以协调的方式集体产生这个想法,我认为我们可以开始看到线上到线下的影响。”

快速发展的工具

计算机生成的图像技术近年来发展迅速,从在自然灾害期间反复分享的一条鲨鱼游过被洪水淹没的高速公路的 Photoshop 图像,到四年前开始大量制作大多数不存在的假照片的网站。人。

许多最近流行的 AI 生成的图像都是由一个名为 Midjourney 的工具创建的,这是一个不到一年的平台,允许用户根据短文本提示创建图像。在其网站上,Midjourney 将自己描述为“一个自筹资金的小型团队”,只有 11 名全职员工。

粗略浏览一个深受 Midjourney 用户欢迎的 Facebook 页面,就会发现人工智能生成的图像,其中包括看似醉酒的教皇弗朗西斯、老年版的猫王和库尔特柯本、穿着机器人特斯拉紧身连衣裤的马斯克以及许多令人毛骨悚然的动物创作。那只是过去几天的事情。

 
Midjourney 已成为用户创建 AI 生成图像的流行工具

Midjourney 首席执行官大卫霍尔兹周五在一封电子邮件中告诉 CNN,最新版本的 Midjourney 仅适用于部分付费用户。根据 Holz 的 Discord 帖子,由于“异常需求和试用滥用”,Midjourney 本周暂停了早期版本的免费试用,但他告诉 CNN,这与病毒图片无关。特朗普逮捕图片的创作者还声称他被禁止访问该网站。

公司 Discord 网站上的规则页面要求用户:“不要使用我们的工具制作可能激怒、不安或引起戏剧性的图像。这包括血腥和成人内容。”

“适度是很难的,我们很快就会推出改进的系统,”霍尔兹告诉美国有线电视新闻网。“我们正在听取专家和社区的大量反馈和想法,并努力做到真正深思熟虑。”

在大多数情况下,最近病毒图像的创建者似乎并没有恶意行事。特朗普被捕的图片是由在线调查新闻机构 Bellingcat 的创始人创作的,他清楚地将这些图片标记为他的捏造,即使其他社交媒体用户并不那么挑剔。

制定安全措施

平台、人工智能技术公司和行业团体都在努力提高计算机生成内容的透明度。

包括 Meta 的 Facebook 和 Instagram、Twitter 和 YouTube 在内的平台都有限制或禁止共享可能误导用户的操纵媒体的政策。但随着人工智能技术使用的增长,即使是这样的政策也可能会破坏用户的信任。例如,如果一张假图片意外地通过了平台的检测系统,“它可能会给人们带来错误的信心,”Ajder 说。“他们会说,‘有一个检测系统说它是真的,所以它一定是真的。’”

技术解决方案的工作也在进行中,例如,为 AI 生成的图像添加水印或在图像的元数据中包含透明标签,因此通过互联网查看它的任何人都会知道它是由计算机创建的。AI 伙伴关系与ChatGPT 的创建者 OpenAI、TikTok、Adobe、Bumble 和 BBC 等合作伙伴一起为合成媒体制定了一套标准的、负责任的做法 ,其中包括诸如如何披露图像是 AI 生成的以及如何披露等建议。公司可以共享有关此类图像的数据。

“我们的想法是,这些机构都致力于披露、同意和透明,”莱博维茨说。

包括马斯克和苹果公司联合创始人史蒂夫沃兹尼亚克在内的一群技术领袖本周写了一封公开信,呼吁人工智能实验室停止对最强大的人工智能系统的培训至少六个月,理由是“对社会和社会的深远风险”。人性。” 不过,尚不清楚是否有实验室会采取这样的步骤。Ajder 说,随着技术的迅速改进和普及,除了一小部分致力于负责任实践的公司之外,立法者可能需要参与进来。

“人工智能的新时代不能掌握在少数靠这些工具致富的大公司手中,我们需要使这项技术民主化,”他说。“与此同时,也存在非常真实和合理的担忧,即采用激进的开放方法,即你只是开源一个工具或对其使用的限制非常少,这将导致大规模的危害......我认为立法可能会在统治一些更激进的开放模式方面发挥作用。”

赞(45)
------------------------
我自安好,来去随风
 
DMCA / ABUSE REPORT | TOP Posted:2023-04-02 19:43 樓主 引用 | 發表評論
她姐夫


級別:新手上路 ( 8 )
發帖:224
威望:38 點
金錢:835 USD
貢獻:0 點
註冊:2023-01-20


1024


點評

    TOP Posted:2023-04-02 19:44 #1樓 引用 | 點評
    莮紸埆


    級別:新手上路 ( 8 )
    發帖:243
    威望:25 點
    金錢:1350 USD
    貢獻:0 點
    註冊:2022-12-27

    这个世界开始疯狂了
    TOP Posted:2023-04-02 19:52 #2樓 引用 | 點評
    談天說道


    級別:精靈王 ( 12 )
    發帖:4021
    威望:530 點
    金錢:21697 USD
    貢獻:25000 點
    註冊:2022-11-16

    多谢分享
    TOP Posted:2023-04-02 19:53 #3樓 引用 | 點評
    三民诛仙


    級別:新手上路 ( 8 )
    發帖:423
    威望:45 點
    金錢:109037 USD
    貢獻:79 點
    註冊:2022-12-14

    1024
    TOP Posted:2023-04-02 19:54 #4樓 引用 | 點評
    sex5104


    級別:俠客 ( 9 )
    發帖:1070
    威望:124 點
    金錢:4494 USD
    貢獻:1 點
    註冊:2021-10-25

    是不是可以用来拍片了呢


    點評

      TOP Posted:2023-04-02 19:58 #5樓 引用 | 點評
      精绝姑蹭


      級別:新手上路 ( 8 )
      發帖:370
      威望:38 點
      金錢:1206 USD
      貢獻:0 點
      註冊:2022-10-24

      1024
      TOP Posted:2023-04-02 19:59 #6樓 引用 | 點評
      吾芳


      級別:俠客 ( 9 )
      發帖:2116
      威望:247 點
      金錢:4618 USD
      貢獻:0 點
      註冊:2022-09-22

      感谢分享
      TOP Posted:2023-04-02 20:01 #7樓 引用 | 點評
      猪皮蛋卷


      級別:新手上路 ( 8 )
      發帖:291
      威望:30 點
      金錢:2020 USD
      貢獻:0 點
      註冊:2021-10-16

      1024
      TOP Posted:2023-04-02 20:05 #8樓 引用 | 點評
      依垛


      級別:聖騎士 ( 11 )
      發帖:1560
      威望:163 點
      金錢:893 USD
      貢獻:23122 點
      註冊:2013-02-28

      山海经地貌可在AI重现。
      TOP Posted:2023-04-02 20:08 #9樓 引用 | 點評
      凤翔


      級別:俠客 ( 9 )
      發帖:1349
      威望:155 點
      金錢:1826 USD
      貢獻:333 點
      註冊:2022-11-18

      感谢分享
      TOP Posted:2023-04-02 20:11 #10樓 引用 | 點評
      高义校长


      級別:精靈王 ( 12 )
      發帖:10828
      威望:1724 點
      金錢:4112788 USD
      貢獻:150101 點
      註冊:2022-12-11


      有点意思
      ------------------------
      G
      TOP Posted:2023-04-02 20:14 #11樓 引用 | 點評
      忆鹤华亭


      級別:新手上路 ( 8 )
      發帖:110
      威望:12 點
      金錢:10154 USD
      貢獻:0 點
      註冊:2023-01-15

      1024
      TOP Posted:2023-04-02 20:24 #12樓 引用 | 點評
      五二一


      級別:風雲使者 ( 13 )
      發帖:12407
      威望:1794 點
      金錢:21762 USD
      貢獻:166666 點
      註冊:2019-07-25

      幸亏我不看社交媒体。以后更不能看了。
      TOP Posted:2023-04-02 20:25 #13樓 引用 | 點評
      抠脚大仙


      級別:新手上路 ( 8 )
      發帖:242
      威望:25 點
      金錢:80176 USD
      貢獻:0 點
      註冊:2015-04-03

      感谢分享
      TOP Posted:2023-04-02 20:29 #14樓 引用 | 點評
      五叶草


      級別:新手上路 ( 8 )
      發帖:545
      威望:55 點
      金錢:1337 USD
      貢獻:0 點
      註冊:2020-01-01

      1024
      TOP Posted:2023-04-02 20:35 #15樓 引用 | 點評
      喜爱为爱喜


      級別:新手上路 ( 8 )
      發帖:234
      威望:24 點
      金錢:1124 USD
      貢獻:0 點
      註冊:2023-01-14

      1024
      TOP Posted:2023-04-02 20:42 #16樓 引用 | 點評
      黑红花片


      級別:新手上路 ( 8 )
      發帖:158
      威望:16 點
      金錢:272 USD
      貢獻:0 點
      註冊:2022-12-01


      看看新闻
      TOP Posted:2023-04-02 20:48 #17樓 引用 | 點評
      麦田里的乌鸦


      級別:新手上路 ( 8 )
      發帖:3
      威望:1 點
      金錢:3 USD
      貢獻:0 點
      註冊:2023-01-29

      1024
      TOP Posted:2023-04-02 21:45 #18樓 引用 | 點評
      晴川芳草


      級別:精靈王 ( 12 )
      發帖:795
      威望:105 點
      金錢:406847 USD
      貢獻:60002 點
      註冊:2023-01-11

      不知道现在生成的图片是否加入什么特别的东西来识别图片的来源,我感觉还是搞NTF会好一些,图片有身份可追溯可能防止一些虚假现象
      TOP Posted:2023-04-02 21:53 #19樓 引用 | 點評
      kelvin1989


      級別:精靈王 ( 12 )
      發帖:9483
      威望:949 點
      金錢:37555 USD
      貢獻:30000 點
      註冊:2022-04-18

      现在能看到以后更难找工作了
      TOP Posted:2023-04-02 22:15 #20樓 引用 | 點評
      这是个问题啊


      級別:精靈王 ( 12 )
      發帖:23740
      威望:2385 點
      金錢:95 USD
      貢獻:10936 點
      註冊:2021-01-01

      感谢分享
      TOP Posted:2023-04-02 22:18 #21樓 引用 | 點評
      沉睡的木玛


      級別:精靈王 ( 12 )
      發帖:23740
      威望:2385 點
      金錢:103 USD
      貢獻:10936 點
      註冊:2018-11-16

      谢谢分享
      TOP Posted:2023-04-02 22:18 #22樓 引用 | 點評
      鸭打鹅


      級別:精靈王 ( 12 )
      發帖:14652
      威望:1394 點
      金錢:38 USD
      貢獻:8453 點
      註冊:2022-02-02


      支持发帖
      TOP Posted:2023-04-02 22:19 #23樓 引用 | 點評
      mollus


      級別:新手上路 ( 8 )
      發帖:73
      威望:8 點
      金錢:2399 USD
      貢獻:0 點
      註冊:2023-01-22

      1024
      TOP Posted:2023-04-02 22:38 #24樓 引用 | 點評

      .:. 草榴社區 -> 技術討論區

      快速回帖 頂端
      內容
      HTML 代碼不可用

      使用簽名
      Wind Code自動轉換

      按 Ctrl+Enter 直接提交