OpenAI发布AI文本生成器 之前因“太危险”而未发布

爱吧机器人网消息，OpenAI研究实验室发布了一个文本生成AI系统——GPT-2的完整版本，专家警示该系统可能被用于恶意目的。

该机构最初于今年2月公布了GPT-2系统，但由于担心该系统会被用来传播假新闻、垃圾邮件和造谣信息，所以保留了完整版本的GPT-2。从那时起，它发布了更小、更简单的GPT-@版本，并研究了它们的接受度。在本周的一篇博文中，OpenAI声称“没有发现该系统会被误用的有力证据”，因此决定完整发布这个模型。

GPT-2可以写假新闻、小说、诗歌，以及代码

GPT-2是新一代文本生成系统的一部分，其仅依据极少的提示（prompts）就能生成连贯文本的能力给专家们留下了深刻印象。该系统接受了800万份从网上搜集的文本文档的训练，并对用户提供的文本段做出响应。例如，给它一个假标题，它就会写一个新闻故事；给它一首诗的第一行，它就会提供一整首诗。

很难说GPT-2的输出有多好，但是这个模型经常会产生令人难以置信的、有说服力的文字，这些文字通常能呈现出智能的样子（这并不是说GPT-2做的事情涉及到“认知”）。但是，“玩”的时间越久，它的局限性就变得很明显了，尤其是面临着持久连贯性的挑战。例如，在故事中始终如一地使用角色的名字和特征，或在新闻文章中坚持单一主题。

了解GPT-2能力的最好方法就是亲自尝试，您可以在TalkToTransformer.com上访问web版本并输入自己的提示。（transformer是用于创建GPT-2及其配件的机器学习体系中的一个组件。）以下是一些测试案例:

如何负责任地发布AI研究成果？

除了GPT-2的原始功能外，该模型的发布本身是也值得注意，这涉及到AI研究者们减轻其工作所带来危害的责任。专家们指出，容易获得尖端研究可以让有恶意的人的行为得逞；例如，我们已经看到的利用deepfakes生成色情影视作品，此前OpenAI出于这些原因限制了其模型的发布。

然而，并不是所有人都赞同这种做法。许多专家批评这一决定，称其限制了其他人为减轻模型危害所能做的研究，并对人工智能的危险性进行了不必要的炒作。早在2月份，研究人员德里普罗就曾在《边缘（The Verge）》杂志上说：“这些‘太危险’的字眼在这里被随意滥用，没有经过太多的思考和实验。我不认为（OpenAI）花了足够的时间证明它实际上是危险的。”

OpenAI在本周发布的完整模型公告中指出，GPT-2可能被滥用，并援引第三方研究称，该系统可能被用来为极端意识形态立场进行“综合宣传”。但它也承认，它所担心的该系统会被用来生产大量连贯的垃圾邮件以及压倒性的信息系统（如社交媒体）并没有成为现实。

该实验室还指出，尽管自己的研究人员已经创建了自动系统，能够以约95%的准确率检测出GPT-2的输出，但这一数字还不足以“独立检测”，也就是说，任何检测假文本的系统都需要与人类审核员协作。不过，对于这种评分审核系统来说也并不特别，因为它们本来就主要依赖于人类来发现伪造的图像和视频。

OpenAI表示，它将继续关注GPT-2在社区和公众中的使用情况，并将进一步制定关于负责任地发布AI研究的政策。