人工智能：吓坏创造者的“深度造假写手”

你能从下面这两段文字里品味出什么区别？

“四月间，天气寒冷晴朗，钟敲了十三下。”

“我坐在小汽车里，前往西雅图开始一份新工作。给车加油，插入钥匙，让它自己开。我沉入冥思，想象这会是怎样的一天。”

第一段文字，是英国著名作家乔治·奥维尔（George Orwell）的传世经典，政治荒诞讽刺小说《1984》开篇第一句话。

第二段文字，是把第一段文字输入一个叫GPT2的人工智能文字编写程序后，这个AI系统的自动续写。

仅输入一句话，GPT2显然就精确的抓住了乔治·奥维尔《1984》的荒诞、压抑、恐惧和反乌托邦的笔调，洋洋洒洒的续写起来：

“深度造假”

程序开发者给它的绰号精确的概括了它的功能：“深度假文字制造”（deepfakes for text)。

它的“造假能力”如此令人信服，程序的开发者，非营利性人工智能研究公司，开放AI( Open AI)，做出了一个不许寻常的决定：暂不公开GPT2的技术信息，以免该技术被恶意使用。

GPT2简单概括而言，就是一个文字发生器。把文字输入这个AI系统，可以是只言片语，也可以是大段文字，然后让程序根据它的判断接下来应该怎么写来写作。

它产生的文字，从质量到数量到适应范围，都远远超出了设计者的预期。

以假乱真

与其它类似的AI文字编写程序相比，它没有使用此类系统经常露出的马脚，比如写着写着忘了在写什么，或夹杂一些莫名其妙的词汇等。

英国《卫报》记者把该报报道英国脱欧的一些标题词汇输入GPT2，它写出了这样的一段“新闻稿”：

“当被要求对有关报道做出澄清时，梅首相的发言人说：‘首相已经明确表明，她要做的是尽快完成脱欧，这在上周的女王年度施政讲话中有明确授权。’”

开放AI的研究负责人阿莫迪（Dario Amodei）对《卫报》说，GPT2从两个方面具有革命性的突破。一是它的数据储藏能力巨大，是现有最前沿的AI文字发生器数据储量的12倍。这使得它能更好的理解掌握写作文风，笔法和意图。

这也导致了它的第二个突破，即它的写作质量和应用的广泛性。

但正是它生产出的文字达到了真假难辨的程度，也促使开放AI公司决定暂时不公开GPT2的技术。

开放AI公司下一步将测试使用GPT2可能出现的任何结果、如何防止恶意使用。公司表示，使用AI技术的道德原则是一个全新的领域，他们还在探索之中。