说起来也挺奇妙，乔布斯在2011年就推出了iCloud，当时他还表示：
“以后的个人电脑只是一部机器，而云服务将成为数字生活的核心。”
要说这其实是件好事，但却遭到了广大 iPhone 用户的反对，因为上传会审核用户手机及iCloud的照片，很多用户表示，今天你想检测照片，明天想干什么谁知道呢？
因此最终，苹果不得已放弃了这项计划。
虽然苹果放弃了，但是谷歌却没停下，早在 2018 年，谷歌就推出了和苹果类似的AI 审核工具，同样用来审核儿童性虐待内容。应用了这么多年，也确实对儿童保护起到了很大作用。
数据显示，截至去年，谷歌提交了超过 62 万份涉嫌虐待儿童的报告，禁用了超过 27 万名用户的账户，这为当局控制犯罪，提供了不小的帮助。
但AI审核操作的离谱新闻却让谷歌陷入了舆论漩涡。
——有位漂亮国全职奶爸被谷歌全网封杀了，原因是他为了告知医生孩子的病情，不过呢，医生那边光听文字描述也觉得不够直观，就要求用手机拍一张照片，上传到医院指定的信息投递系统。
为了方便医生根据照片提前初步诊断，妻子拍照时，马克用手指指着儿子的不适处。
结果谷歌把这些照片标记为儿童性虐待材料（CSAM），更灾难的事还在后面。马克是谷歌的重度用户，从同步日计划到备份照片视频，都靠的是自己的Gmail账户。
△马克和儿子（图源《纽约时报》）
当事人立刻决定上诉，但谷歌不仅无情拒绝，还标记了他别的视频和照片，搞得旧金山警察局都开始介入调查。
但由于这哭笑不得的乌龙，多米诺效应接踵而来——他被谷歌全网封杀了！
他失去了对自己电子邮件、联系人、照片的访问权，Google Fi账户也被关闭了（这意味着他必须得去另一家运营商申请一个新电话号）。并且因为失去了电子邮件地址，他甚至没法买房。
最后虽然他被警方认定为无罪，但是谷歌账号依旧找不回来，并且即将被永久删除。
他只能马不停蹄也带着警方的报告去找谷歌，结果人家压根就不管，问就是违反了谷歌的规则。
那咋办？只剩下提起上诉这条路呗，费用还需要7000美元，钱是能掏出来，但关键是不值得啊…
除此以外，AI审核还误封过不少欧洲艺术雕像。
按事实来说，这些雕像确实是裸体，但从艺术的角度来看，这又不是啥问题。
相比其他大厂，谷歌最头铁的是过于依赖AI审核，虽然也知道AI准确度比较“死板”，会有人工审核岗位，但很多图片没走到人工审核那一步，就被AI“判罪”了。
而且谷歌的态度也挺那啥，属于是宁愿杀错，也不放过。
只能说，人们习惯将资料自动备份至云端，AI 审核也已经见怪不怪，但数据隐私，已经成为整个社会所担忧的问题，谁愿意被审核“看光”呢。
