发企业“黑稿”和侵犯个人信息罪|每周风险追踪
21世纪经济报道记者肖潇
每周,我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争等领域需要重点关注的动态,并分析其热搜指数与风险指数,从舆情热度与综合风险两个维度进行评价。
炮制企业黑稿,一批网络水军团伙被诉
8月21日,山西晋中网安部门发布通告,最近成功破获一起非法使用实名账号、通过 AI 洗稿非法套取流量返利的案件。
晋中警方发现,三人在某社交平台上注册了50多家MCN公司,以每条20至50元的价格大量购买他人实名认证的网络账号,非法获利 50余万元。
警方通告显示,三人涉嫌侵犯公民个人信息罪,目前已被依法提起公诉。
今年6月,接到小米、理想汽车、华为鸿蒙智行等企业报案后,山东烟台查处了一个炒作新能源汽车负面信息的9人水军团伙。团伙被指购买、操控了8000多个实名注册的个人账号,同样因涉嫌侵犯公民个人信息罪,被依法采取刑事强制措施。
?热搜指数★★★★
⚠️风险指数中
Claude隐形水印发布后,去水印工具涌现
Anthropic在上周宣布,为了履行欧盟《人工智能法案》的透明度义务,新版 Claude 生成的文本将携带人眼不可见、但机器可验证的隐形水印。
Anthropic随后公布了隐形水印的植入原理:Claude 在生成文本时,会从多个可能的词语中选择一个,而水印会调整随机选择的概率。读者不会发现区别,但机器能识别出选词方式的统计规律,水印方法类似Google在2024年提出的 SynthID。

关于增加文字隐形水印会不会影响AI回复的质量,技术圈展开了激烈辩论。与此同时,AI水印去除的谷歌搜索量环比上升60%,多个免费、开源的水印移除项目出现。
根据欧盟8月初生效的《人工智能法案》,Anthropic和OpenAI等模型提供商必须对AI音频、图像、视频或文本进行标注,而且标注不能被轻易移除,否则将面临最高可达年营业额 3% 的罚款。欧盟并未对独立工具(比如AI水印移除工具)作出法律限制。
?热搜指数★★★★
⚠️风险指数高
欧盟GDPR第二大罚单出现,源于Uber封禁网约车司机账号
8月17日一份裁决文件显示,荷兰数据保护局已对优步(Uber)处以8.25亿欧元(约64.9 亿元)的巨额罚款。处罚原因是优步通过自动化系统封禁司机账号,且未向司机履行充分的告知义务。
这笔罚款将成为欧洲《通用数据保护条例》实施以来开出的历史第二大罚单,仅次于 2023年爱尔兰因Facebook非法跨境传输数据而开出的12亿欧元(约94.4亿元)罚单。
Uber曾对部分涉嫌欺诈的司机账号采取封禁措施,涉及故意绕路以抬高车费,或者接单后无意履约等行为。但荷兰数据监管机构指出:“司机们转瞬间就失去了所有收入来源…… 涉及此类重大影响的决策,绝不能完全由系统自动化决定。”
优步则表示将提起上诉。优步坚称,公司从未将永久封禁决策完全自动化,现行政策不仅包含人工审核流程,也为司机提供了申诉渠道。
?热搜指数★★★
⚠️风险指数中
AI公司付费求训练数据
一家总部位于美国旧金山的Handshake AI正在招聘“专业文档贡献者”,承诺为“高质量书面文档”支付最高3万美元,每页文档约6美元。
Handshake AI想收购的是Word 文档、PDF 等以书面文字为主的材料。申请人应当拥有咨询、金融、法律、软件工程、数据科学等领域的工作经历,而且必须拥有相关文档的所有权,并获得授权将这些文档分享出去。
AI训练公司正在为各种类型的数据集支付费用——例如将家政清洁人员的清洁录像提供给具身智能公司。而在传统的内容领域,版权合作模式也已出现雏形,字节跳动的Seedance与好莱坞达成初步合作协议,此前也有消息称,苹果AI正在与新闻出版商讨论AI引用分成。
?热搜指数★
⚠️风险指数低
