AI渗透人们生活的方方面面已是必然，随着越来越多应用场景落地，帮助人们改善生活也将无微不至。如今，为了帮助新晋爸妈群体，美国一家名为Predictim的AI公司开发了一款同名APP，提供评估保姆人格的在线服务。不过，仅过了一个月的时间，这款APP就被用户和媒体吐槽不靠谱，但也让人们看到了未来的想象空间。
“AI判断你有虐童倾向，所以你找不到工作”
Predictim基于AI评估一名保姆的可靠性，主要参与新晋爸妈寻找保姆的环节。宝爸宝妈们首先联系到一名潜在的人选，获得保姆的姓名和电子邮件，获得对方同意获取社交媒体账户的访问权限，即可以在平台上进行评估。如果保姆拒绝，则会收到一封电子邮件，提示无法被雇佣。
既然不评不行，那么进入到这一评估流程后，这名保姆的隐私就会交给AI过滤。Predictim会扫描这名候选人的Facebook、Twitter 和Instagram 等社交平台上近几年的发帖和图片，在几分钟之内生成评估报告。而这份报告包含个性特征、行为特征、擅长领域等，重点提供是否有霸凌、态度不佳、不尊重人等倾向，用以反应一名保姆的就职风险。从无风险的绿色到非常危险的红色，一名潜在的候选人就这样被AI打上了标签，并且结果只呈献给孩子的父母，不会告诉保姆本人。
爱没有界限，AI有些问题
保姆这一职业虽然属于服务业，但是对于新晋爸妈来说是类似于家人的存在。靠谱的保姆不仅能解放家长，还能起到影响孩子的良好作用，不靠谱的保姆却屡屡见诸报端，虐童、纵火，骇人听闻。
虽然保姆的可靠性至关重要，但是显然Predictim的评估规则有些简单粗暴。所以首先被吐槽的就是它的片面性。
Facebook、Twitter 和 Instagram 等APP对于美国人来说是主流的线上社交平台，虽然能够一定程度上体现一个人的个性，但恰恰因为是用户发声的出口，所以涉及到的话题非常丰富。
值得注意的是，美国保姆市场和中国不尽相同，并不是中年人主导，而是大多是年轻人，因此社交软件才被Predictim作为主要的检测对象。
但是，如果用户引用了电影台词或歌曲歌词、玩了什么网络上的梗、在评论时用了反话(类似微博加狗头的做法)等，AI是否能识别并最终正确反映一个人的性格？
对于这一问题，目前的AI水平还不能让人那么放心，即便达到了人类的理解水平，也有网友表示：“电脑没有感情，又怎能评判所有事？”
当然，即便AI拥有感情，也只是在线上，而一个人的真正画像还包括与他人的接触，也就是占有更大比重的线下。
除了评判标准片面、智能水平不可靠，Predictim在上线的短短一个月后，还迎来了不小的打击。今年(11月27日)消息，Facebook认为Predictim违反了其使用个人数据的政策，撤销了大部分来自Predictim的访问权限，正在调查是否应该将其完全屏蔽，而Twitter则已经完全屏蔽。
Twitter发言人通过电子邮件向媒体回应称，“我们严格禁止将Twitter数据和api用于监控目的，包括进行背景调查。当我们意识到Predictim的服务时，我们进行了调查，并撤销了他们对Twitter公共api的访问。”
Predictim通过过滤包含“毒品”、“暴力”等关键词或相关话题的发帖作为主要的评估维度，但作为一家今年6月份才成立的创业公司，通过并未被认可、也不可证伪的单一算法就决定一个人的就业，批评人士表示不可信任。
虽然Predictim也有人工复检的机制，被标记为有问题的帖子会被手动查看，以防止出现假阴性，但是初创公司的属性和AI现阶段的局限性都让其无法走出舆论的旋涡。
虽然不靠谱，但是AI的想象空间由此大开
Predictim的发展虽然坎坷，但是让AI评估人类这件事本身必将成为趋势。
首先，AI在企业招聘、人力资源管理过程中已经开始发挥作用。
除了招聘软件自动筛选简历为HR释放了不少精力，IBM公司还用AI判定员工绩效。据IBM人力资源部统计，与人类的评估结果对比来看，Watson的准确率达到了96%，在HR可以接受的范围内，因此已经开始试用了。
国内也已经出现了仟寻MoSeeker、iPin等入局AI招聘的创企，甚至部分企业在面试过程中加入了AI评定环节。
目前在招聘环节使用AI还有一定局限，即便是HR本人面试也难以在短短一面之缘下完整地了解求职者，不过未来“AI验人”有着巨大的想象空间。
试想，此前多次在网约车平台爆出的刑事案件中，犯罪分子因为网贷逾期而产生反社会心里、走上犯罪道路，半年向57个网贷平台申请过资金，这样完全在线上的行为竟然没有被提前感知。
另有例如，某网贷平台在放款环节需要用户填写担保联系人，但却不核实该联系人与用户的社会关系，在逾期后却电话联系该联系人催款，简直让人无法理解其逻辑。
如果形成了以每一个人实名用户为中心的数据平台，AI的作用就能真正惠及大众。当AI检测到用户频繁的社交平台不良言论及时干预，扶正的就是一个本可以健康阳光成长的网民;当AI检测到用户收入水平偏低却频繁在二手平台出售电子产品及时干预，预防的就是一个潜在的犯罪分子;当AI检测到用户出现频繁网贷行为的失信倾向并及时干预，挽救的就是一个活生生的生命。
我们反对片面地评判他人，无论是人还是AI，但我们期待未来AI可以做得更好。
【来源：扩黑科技】
