根据行业知名机构IDC此前的预测，2025年，全球数据圈将增长至175 ZB（泽字节，1 ZB = 109 TB）（全球数据圈：每年被创建、采集或是复制的数据集合）

治理这么庞大的数据集是非常有挑战的，不久我们将要面对，AI数据超过人类数据的局面，以GPT为代表的大模型，将“吞噬”整个真实世界。

我个人认为，内容治理和身份识别，这也是AI安全的范畴。

当下多数人对AI生成的内容持平和与宽容态度，是因为很多内容“一眼假”。但当技术跃升到难以分辨时，再敲响警钟恐怕为时已晚。

大语言模型正在重塑人类的语言习惯，有人在论文数据库中发现，有一个单词在GPT出现之前，超过了四五倍。这可能是用GPT润色的结果。

而这个单词过去在非洲被流行使用，被广泛的辐射到了全世界。也就是说，这导致了语言的多样性缺失，生态逐步走向单一化。

什么是“垃圾内容”？

想象一个场景：当你的作业或者论文面临截止日，而你的工作进度又实在“惨不忍睹”，于是只好让AI根据你的描述生成一段文字来“滥竽充数”，这就是“垃圾内容”的一种。

包括时下流行的语音克隆，视频生成，音乐生成的大模型，都在悄悄的改变Web生态，所以这种AI检测就要被提到日程上来。

从文本、图像、音频的检测器，要全方位的开展的检测工作，而这些没有数字指纹的生成式，其实是一种无监管的有害模型，像生物学上的说法，这也可以被视为一种基因库。

信息污染

信息污染带来的危害会持续从健康、政治、经济、隐私等角度，影响人们的方方面面，大量信息失真，长期会导致人们的认知茧房，也会导致人们的认识错误，在某些错误的概念上，人们达成某种共识。

正如《人类简史》里面所提到的认知革命，智人具有了一种特殊能力：编织谎言。我们能绘声绘色的编织出从来不存在的事物，然后坚定相信它存在。所以我们有了神，有了部落、有了宗族、有了联盟、有了国家、有了社会、有了“我们”而区别与他们。

研究称GPT-4通过图灵测试：两位研究人员以真人、初代聊天机器人ELIZA、GPT-3.5和GPT-4为研究对象，试图了解谁在诱使人类参与者认为它是人类方面表现最成功。结果显示，多达54%的参与者将GPT-4误认为真人，是迄今为止首次有AI模型以如此高的结果通过图灵测试。

与AI共存的时代下，我们就要面临更加复杂的认知挑战，你根本不知道你对面是不是人类的内容，甚至你都不知道对面是否有人，或是不是人，这就得提到虚假信息的危害了。

从某种角度上来看，人类的智力还是很脆弱的。通过图灵测试，GPT还是有智力的。

虚假信息

网上有大量消息表明，GPT-5或Sora会在美国大选以后发布，也许是因为担心虚假信息吧。看起来OpenAI也注意到了这点。

OpenAI前首席科学家Ilya Sutskever在X上宣布成立SSI：

安全超级智能公司（Safe Superintelligence Inc.）

超级智能近在咫尺。

构建安全超级智能（SSI）是我们这个时代最重要的技术问题。

我们创办了世界上第一个直击SSI目标的实验室，只有一个目标和一款产品：安全超级智能。

这就是安全超级智能公司（Safe Superintelligence Inc.）。

SSI是我们的使命、我们的名字，也是我们整个产品路线图，因为这是我们唯一的重点。我们的团队、投资者和商业模式都为了实现SSI而一致努力。

我们将安全性和能力并重，作为技术问题，通过革命性的工程和科学突破来解决。我们计划在尽可能快地提高能力的同时，确保我们的安全性始终领先。

这样，我们可以在和平中扩展。

我们专注单一目标，避免管理冗余或产品周期的干扰，并且我们的商业模式意味着安全性、保障性和进步都不受短期商业压力的影响。

我们是一家美国公司，在帕洛阿尔托和特拉维夫设有办公室，在这些地方我们有深厚的根基，能够招聘到顶尖的技术人才。

我们正在组建一个精简而顶尖的团队，汇集世界上最优秀的工程师和研究人员，专注于SSI，无其他分心。

看起来OpenAI原来的团队问题是：目标过多，管理冗余，产品发布周期非常紧张带来的潜在问题是影响了安全性。

话说：OpenAI作为揭开潘多拉魔盒的先锋，对整个Web的生态影响是非常恶劣的，一方面创作者的内容被大模型训练走，存在巨大的知识产权争议，另外一方面对原有的Web生态造成了污染。

OpenAI是整件事的始作俑者。

SSI的目标看起来非常远大，他可能不会做像OpenAI过渡产品，像3.5或4这种。

个人认为，Ilya Sutskever可能还藏着很多好点子，这家公司与其他公司相比，会对整个AI界产生巨大影响的。