文章来自于果核剥壳公众号首发：https://mp.weixin.qq.com/s/bU8Sszx3RvuoP4Xtny-7HQ
如今的AI生成式内容已经跳过了青涩阶段，生成的内容已经到了需要反复辨别真假的地步。
因为用得好的话确实难以分辨，所以目前有不少伦理和造假问题，有人拿AI伪造证件照片，修改照片上的合同条款等等，或是拿AI生成假图来退货贪小便宜。
这些对于AI工具本身来说，它是不知道你的最终用途的，随便敷衍两句说写错字了，或者是想要跟朋友娱乐一下，那AI就是能帮就帮，生成没有太多限制，除了一些带有明显违规的内容。
而在这方面最大胆的就是马斯克的Grok了，它本身有“越狱”提示词，可以让它扮演虚拟机或者其他的角色来绕过一点限制，生成带有颜色的内容，或者是创建比较清凉的图片，甚至在一些比较奇怪的提示词下：生成穿XXXX的图片。——会生成比比基尼更更清凉的图片。
（游民星空相关新闻，大致就是这个意思）
这段时间在外网玩得比较欢的就是上面生成各种比基尼的图片，甚至马斯克自己也调侃有些图片怎么会那么好笑。
他自己也是先拿自己进行恶搞。
也有人对此感到冒犯的，就像是女生随手发个自拍，然后就在评论区看到了自己生成的照片，难免会觉得虾头，以后发照片的时候都要犹豫一下。
而且离谱的是什么，在相关新闻报道后这些图片的产出速度更快了，每小时就有6700张，Grok加班加点手搓“脱衣”图了属于是。
不过在这里是有底线的，如果是与儿童相关的内容，会直接被系统阻止。
但是Grok本身奔放的行为终于迎来了大家的共同抵制，最近的新闻是美国 28 个组织联名致信苹果、谷歌要求下架 X 和 Grok，如果向马斯克抵制没有用，那就让第三方来制裁一下。
联名信给出的理由是：
苹果和谷歌不仅放任非自愿私密影像和儿童XXX内容的传播，还在商业层面从中获益，并要求苹果方面立即采取行动，防止进一步的违法和滥用行为。
这下算是打到七寸的真实伤害，毕竟要是从源头掐断这两个巨大的流量入口，Grok就更加打不过Gemini和ch*tg*t，于是Grok瞬间清醒了，光速滑跪表示有事好商量，然后就发了个声明，表示：
对现实人物图像进行编辑，尤其是涉及比基尼等暴露服装的内容——限制将覆盖所有用户，不区分是否为付费订阅者。
之前还说ch*tg*t也要搞一个成人模式来吸引流量，现在有这些事之后，可能也得掂量掂量了。
而对于其中关于儿童相关的内容，马斯克发表声明说没有，一张都没有。并且邀请大家向他展示限制级的内容（除了上身以外）。
AI发展到现在，这类问题不是某个国家会遇到的，国内这几天也有AI内容生成监管不力的典型案例，有的平台有问题然后正在打官司中。
另外AI的出现赋予了使用者“音量增幅”的力量，可以基于立场和用途来发表出更具有迷惑性的内容，让不明所以的观看者产生判断偏差和情绪波动，在国际新闻上就有不少用AI生成内容的博主，用了AI会产出速度更快，量更多。
以后只要设定一个立场，你甚至没有情感波动也能产出情绪感染力比较强的内容，创作本身的门槛被降低后，推荐流里的内容质量更加会被稀释。作者用AI生成内容，读者用AI总结，甚至现在有些喷人的话都是用AI生成的。
再结合一些国家不让十五六岁的未成年人使用社交媒体来看，那整件事就更有趣了，这些国家不让青少年访问社交媒体，那是认为年轻人在这些平台上接触的内容是弊大于利，以至于达到了要立法监管的地步。
在可预见的未来里，随着AI的加入与信息价值的稀释，总体的网络环境会变得更加不可控。我们所处的环境对网络的管理也会一步一步加强，对于违规信息的管控，对于在公共场合的言论传播等等，以及使用AI的规范等等。
以后网络信息本身的获取就像是水一样，或许随处可见，但是有些是臭的，入眼是大量AI灌出的海水，不能饮用的，想要清澈的可饮用水源，就得花钱。
把时间放宽一点来说，以后这类新闻会越来越多，用来搞颜色抵制一下，用来战争抵制一下，在人形机器人解除限制时抵制一下，话说这还是相对正经大厂推出的模型，要是哪天某些成人厂商整个大模型出来，那画面就太美了。
微信扫一扫 
支付宝扫一扫 