AL123 人文社科会员免费专区文学 2023-06-21

青年文摘（2023年第11期）_《青年文摘》杂志社_AZW3_MOBI_EPUB_PDF_电子书（无页码）_《青年文摘》杂志社

内容节选

社会今日视点谁才能锁住AI的“潘多拉魔盒”？ ■辑/格桑近日，一对中国情侣突然火爆全球。照片里的一男一女，穿着夹克和牛仔裤，坐在凌乱的天台边缘，远处是阳光下显得有些失焦的高楼大厦。同样，这一对情侣，还以相似的打扮，出现在各种不同的场景，甚至不同的时代。这是怎么回事？原来，这全都是假的。这对情侣在真实生活中并不存在，他们出生于一款软件——Midjourney的V5版本。如今，我们对AI绘图已经见怪不怪了，但是这张中国情侣的照片，其图像质量、纹理、动态范围、纵深感和细节之逼真，实在让人震撼。与此同时，另一件网暴事件也同样撼动人心。近日，“广州三号线女子不雅照”的谣言在网上疯传。传播者煞有介事地称，“三号线有个美女，把衣服脱了”。然而，这个听上去言之凿凿，还有“事实”为证的图片，背后竟然是使用AI把女子的衣服P掉的不法行为。这两个新闻在震撼人心的同时，也引发我们严肃的思考：AI能制造出以假乱真的图片，让我们对事情真伪的判断愈加困难，这场21世纪最深刻的“工业革命”，最终会将我们带向何方？潘多拉的魔盒已经打开 3月18日，美国前总统特朗普在个人自媒体上发布预告称：“我也许在周二（3月21日）被捕。”很快，特朗普被捕的图片，迅速被大量转发。在纽约街上，他被特警反绑扭送，被警察压在地上；还有他穿囚服的和越狱的图片，这些都逼真到让人难以分辨真假。这些有模有样的“新闻作品”，正是出自Midjourney。Midjourney是一个生成式AI，操作很简单，只需要通过Discord机器人发送消息，向它描述你想要的图片，即可生成。Midjourney于3月下旬迭代至V5版本，图片生产的能力和质量突飞猛进，同时也火出了圈，席卷国内外各大社交媒体。跟其他AI绘图软件不同，Midjourney在生成一套充满噪点的粗糙蓝本后能多走一步，通过一层特殊处理，将噪点全部去掉，尤其是一直很难攻克的脸部轮廓和手部的清晰度，最终生成一张跟照片无异的图片。特朗普被“制造”后，诸如美国前总统奥巴马和德国前总理默克尔在海边玩耍、罗马教皇方济各穿着时尚羽绒大衣在夜场当DJ等肆意消费各界名流的图片，也纷纷出炉，全球网友陷入一场Midjourney制造的狂欢。确实，以假乱真的威力，被Midjourney发挥得淋漓尽致。同时，这场狂欢也引发了人们对其滥用的热议。人工智能ChatGPT的开发者OpenAI公司的行政总裁萨姆·阿特曼就曾表示：“即使我们不研发这样的技术，也会有比我们道德底线更低的人去研发。”对此，他直白地建议：“技术没有错，不让技术被滥用的唯一办法，就是限定社会使用它的边界和底线。” 无论如何，我们已经来到了一个AI生成信息泛滥的时代。不仅是Midjourney，DALL-E 2、Stable Diffusion等软件，也可以根据用户描述，几秒钟内生产出精美、逼真的图像，且风格多样。在ChatGPT上，我们可以请AI模仿某个刊物的风格，写一篇文章。GPT-4还被整合进Office，现在，做PPT、写文案、生成可视化数据、邮件撰写和回复等任务，都可以下令让AI自动完成。当然，视频生成也不在话下。比如，只要输入文字或者导入PPT，只要5分钟，Synthesia就可以帮你制作一段真人出镜的视频，省去了导演、演员、摄影乃至后期制作等一系列人力成本，以及拍摄设备和场地成本。学生、律师、学术界等也开始使用生成式AI来辅助完成他们的本职工作。美国编剧协会还提议允许使用ChatGPT参与剧本创作。甚至如今，ChatGPT已经学会了即兴创作。 AI的无所不能，已经让许多从业者忧心忡忡。比如，对美术、广告创意行业的从业者来说，“很多人苦学半辈子的绘画或设计技能，可能一下子变得一钱不值。”因此，在社交平台上，出现了“No to AI Arts”（对人工智能艺术说不）这样一个标签。那些高调反对AI制图软件的艺术家认为，依赖大量艺术品原始数据进行人工智能制图，冒犯了人手艺术创作者的版权，算是一种高级抄袭，“这些软件完全建立在侵犯无数位艺术家、摄影师、插画师和其他拥有合法版权者的基础上，根本不算是‘创作’过程”。但毕竟，潘多拉的魔盒已经打开了。人性才是科技之源文章开头提到的这位广州女子，是典型的AI技术受害者。伪造内容所产生的谣言，可以很轻易地让一个普通人陷入百口莫辩的境地，也会让许多人受到蒙骗。有一部分人正用一种低成本的方式，制造这些以假乱真的视频、图片和声音，挑战我们的认知底线。科技滥用、科技作恶的现象，让更多游走于灰色地带的问题越发尖锐。那么，是不是对AI技术一封了事就好了？当然不是，技术没有错，错的是使用的人。同样是AI技术，有人用它来作恶，有人却用它来行善。比如，2022年冬奥会上，一批来自天津理工大学的大学生志愿者，就曾给冬奥会AI手语数字人提供......