图片来源于北京三友

2015年6月，谷歌照片应用的算法曾经错误地将黑人分类为“大猩猩”，引发了轩然大波。因此，从IBM到Airbnb，每家公司都在努力确保自己算法不会出现类似的偏差。

除了“大猩猩”事件之外，哈佛大学研究人员Latanya Sweeney发现谷歌搜索中存在种族歧视。当搜索类似黑人名字时，会比搜索类似白人名字更有可能出现与“被逮捕”相关的广告。谷歌认为，比起杀人AI机器人，我们更该担心的是AI偏见问题。谷歌提出AI技术开发的道德准则，成立了专门的机器学习道德部门，对公司的产品和服务进行分析测试，提出改进意见，尽可能避免AI偏见的产生。

如果我们给这些系统提供有偏见的数据，那么生成的AI模型就会有偏见。最近一段时间，谷歌为解决AI偏见又上了紧箍咒。谷歌机器学习道德、信任和安全主管Jen Gennai说，防止出现数据和AI偏见就是他的工作内容，如果我们要打造一项新技术，我们需要确保它从一开始就走在正确的轨道上。

谷歌制定AI技术开发七大准则

现在每当谷歌推出新产品时，都会接受Gennai及其团队的严格测试。来自技术、法律、隐私和社会科学等领域的专家聚集在一起，根据谷歌制定的AI准则对每个产品进行分析。这种测试主要是找出产品的优缺点。“我们并不是公司里可怕的监工。”Gennai说。“我们想的是，希望公司能推出最好的产品，所以我们要找出所有可能出错的漏洞，以便解决问题。

但Gennai的测试团队提出了一些其他问题。我们研究了用户如何与之互动，如何利用技术降低AI的偏见。我们提出了问题，要如何判断用户是不是有口吃或语言障碍。产品开发团队做了很多工作，但我们试图缩小所有差距，提升产品表现。改善AI偏见的一种方法是改进数据集。 Gennai举了一个婚礼的例子。

过去，如果你在Google图片上搜索“婚礼”，得到的结果是白人穿着婚礼礼服的照片，因为算法是在基于西方人的数据源上进行训练的。然而，这对印度或中国的谷歌用户就不合适。谷歌要求人们提交世界各地的婚礼照片，以改善数据集。“现在，我们得到了印度用户的大量反馈，他们向我们发送了许多色彩缤纷的婚礼照片，”我们希望了解我们现有资源，创建偏见相对较小的新资源。”

了解谷歌算法的内部工作流程，有助于团队更好地进行修改。比如用谷歌搜索“CEO”时出现的问题，当你在搜索栏中键入“CEO”时，你会看到一些穿着西装打着领带的白人男子的图片。Gennai的团队调查数据时发现，这个现象往往并不是人为偏见，而是技术上的偏见。

“在算法看来，海军蓝像素就等于CEO，而且因为白人男性更容易穿蓝色西装，所以这纯粹是模型学习的方式问题。但这表明我们需要仔细检查数据。说到最后，偏见的根源其实还是来自人类。“我们每个人都有偏见，我们现有的全部数据源，都是建立在我们每个人和过去的历史偏见之上。”但是，仅仅因为这一点，并不能说我们无法阻止偏见。相反，谷歌试图尽可能调查和解释最大的偏见来源，并尝试改变。

图片来源于北京三友

11月14日，在长春理工大学电子信息工程学院举行的“新电感应”电子科技展活动中，一套名为“人体意念控制书本自动翻页系统”的作品吸引众人关注。使用这套系统，人不需要肢体动作，只需通过简单的脑电波传感器就可以实现对翻书机翻书的动作进行控制。人体意念控制书本自动翻页系统目前已经申请国家专利，通过专利查询网查询到相关专利号

这套系统的其中一位发明人祁焕强介绍，人体意念控制书本翻页系统成本低廉，该系统通过TGAM脑电波模块提取微弱的脑电信号，采集端将电信号转化成数字信号，再将数据通过蓝牙模块与STM32单片机进行通信，检测人是否眨眼，一旦检测到眨眼信号，单片机将立即发送命令以启动自动翻书装置，实现了翻页自动化。

祁焕强介绍说，他和实验室的四名同学用了七天时间就研制出了这套系统，它能够为肢体残疾人士提供更加智能化、人性化的帮助，满足他们的精神需求。

该发明团队认为，未来人体意念控制书本翻页系统可以广泛应用于多个领域，不仅对手部残疾者，而且对老年人和乐队指挥者、钢琴演奏者等用手不便的人群也将会有极大的帮助。“意念”的表述或许容易产生误解，其实，科学的解释是脑电波控制。也有网友很支持这个做法，说这个发明可以为残疾人士服务。目前此项发明专利已经载国家专利局登记，通过国家专利局专利检索发现发明属于有效状态。

近年来，国内外媒体有关“意念控制”的报道已经屡见不鲜了：在脑控技术领域，所谓的‘意念控物’，是通过采集脑电波，然后用某种装置对脑电波进行分析解码，转换为控制信号，进而实现对‘事物’的控制。这些“事物”可以是设备装置，甚至也可以是生物体。

要想实现高质量的控制，难度最大的就是对脑电波的提取、分类和识别，也就是所谓脑功能特征的提取。”通俗一点讲，就是需要知道大脑想要做什么，获取的脑电波要能代表这种“诉求”，不同“诉求”要能在脑电波中体现出来。前景无限美好的背后，是科学家不懈、辛劳的努力。正如网友所说，千万不要小看这一点小小的进步。如果“意念控制”普及，你最想用来做什么？可能窝在被窝里不用伸出手来就有人为自己翻书了！

来源：新浪科技、腾讯科技

作者：北京三友

编辑：标天下知识产权

百度标天下官网免费查询商标专利，标天下是一家做互联网+知识产权服务平台