确保人工智能不作恶谷歌为ai再上紧箍咒铅合金诸城石材吧台复合垫片剑道
发布时间:2022-07-07 17:21:33 来源:庚辰机械网
确保人工智能不作恶 谷歌为ai再上“紧箍咒”
确保人工智能不作恶 谷歌为ai再上“紧箍咒”
01:42来源:
原标题:确保人工智能不作恶 谷歌为ai再上“紧箍咒”
谷歌认为,比起杀人ai机器人,我们更该担心的是ai偏见问题。谷歌提出ai技术开发的道德准则,成无需额外的处理步骤立了专门的机器学习道德部门,对公司的产品和服务进行分析测试,提出改进意见,尽可能避免ai偏见的产生。
在去年举行的谷歌会议上,谷歌当时的人工智能(ai)负责人john giannandrea表示,我们不需要担心杀器人,相反,我们需要担心的是ai偏见。
“如果要说真正的安全问题,那就是如果我们给这些系统提供有偏见的数据,那么生成的ai模型就会有偏见。”他说。
这是谷歌过去一直在努力解决的问题。2015年6月,谷歌照片应用的算法曾经错误地将黑人分类为“大猩猩”,引发了轩然大波。因此,从ibm到airbnb,每家公司都在努力确保自己算法不会出现类似的偏差。
最近一段时间,谷歌为解决ai偏见又上了紧箍咒。
对于谷歌机器学习道德、信任和安全主管jen gennai来说,防止出现数据和ai偏见实际上就是他的工作内容。gennai负责领导一个跨公司的团队,对谷歌的新产品和服务进行分析和咨询,以确保所有新产品都遵守这一道德标准。
“如果我们要打造一项新技术,我们需要确保它从一开始就走在正确的轨道上。”她说。
谷歌制定ai技术开发七大准则<船用电网/p>
今年6月,google首席执行官sundar pichai发布了该公司的人工智能原则,指导谷歌在这些方面的工作和研究,包括确保google员工不会制造或加强不公平的ai偏见。
pichai表示,ai的开发和使用将在未来许多年内对社会产生重大影响。作为ai的领导者,我们感到自己有做到广告礼品这一点。
这种关于人ai技术的新立场是受到谷歌出现问题的影响而提出的。除了“大猩猩”事件之外,哈佛大学研究人员latanya sweeney发现谷歌搜索中的存在种族歧视。当搜索类似黑人名字时,会比搜索类似白人名字更有可能出现与“被逮捕”相关的广告。
“这些现象都是我们的部门成立的原因,不应该让我们的用户看到这些,我们需要首先阻止这些偏见的产生。”gennai说。
谷歌谷歌机器学习道德、信任和安全负责人jen gennai 现在每当谷歌推出新产品时,都会接受gennai及其团队的严格测试。来自技术、法律、隐私和社会科学等领域的专家聚集在一起,根据谷歌制定的ai准则对每个产品进行分析。
这种测试主要是找出产品的优缺点。“我们并不是公司里可怕的监工。”gennai说。“我们想的是,希望公司能推出最好的产品,所以我们要找出所有可能出错的漏洞,以便解决问题。
在谷歌智能助理给真人打的功能上,产品团队事先就ai如何处理不同口音做了大量工作,但gennai的测试团队提出了一些其他问题。
“我们研究了用户如何与之互动,如何利用技术降低ai的偏见。我们提出了问题,要如何判断用户是不是有口吃或语言障碍。产品开发团队做了很多工作,但我们试图缩小所有差距,提升产品表现。”她说。
改进数据集质量
改善ai偏见的一种方法是改进数据集。 gennai举了一个婚礼的例子。
过去,如果你在google图片上搜索“婚礼”,得到的结果是白人穿着婚礼礼服的照片,因为算法是在基于西方人的数据源上进行训练的。然而,这对印度或中国的谷歌用户就不合适。谷歌要求人们提交世界各地的婚礼照片,以改善数据集。
“现在,我们得到了印度电泳仪槽用户的大量反馈,他们向我们发送了许多色彩缤纷的婚礼照片,”我们希望了解我们现有资源,创建偏见相对较小的新资源。”
让用户也能理解算法
了解谷歌算法的内部工作流程,有助于团队更好地进行修改。比如用谷歌搜索“ceo”时出现的问题,当你在搜循环扭矩的选择在参考同类标准JJG556⑵011的基础上作了较大改动索栏中键入“ceo”时,你会看到一些穿着西装打着领带的白人男子的图片。
gennai的团队调查数据时发现,这个现象往往并不是人为偏见,而是技术上的偏见。
“在算法看来,海军蓝像素就等于ceo,而且因为白人男性更容易穿蓝色西装,所以这纯粹是模型学习的方式问题。但这表明我们需要仔细检查数据。
让谷歌用户了解公司算法的运作方式也是很重要的。谷歌用户现在可以查看为你投放广告的原因,并查看由算法做出的决定。用户还可以查看为何会在谷歌搜索结果中看到某个链接,具体取决于用户之前的搜索记录。 gennai表示,这是为了帮助用户更多地了解谷歌,以便他们可以信任谷歌搜索。
透明度也是谷歌ai原则的一部分。但是“与用户共享一个完整的算法根本没有用,反而可能会引起更多的混淆,并感觉我们是故意混淆。但是,用用户可读的语言解释算法,将有助于人们了解谷歌正在尝试做的事情,即使我们做错了。”gennai说。
解决ai偏见,光靠谷歌不够
说到最后,偏见的根源其实还是来自人类。“我们每个人都有偏见,我们现有的全部数据源,都是建立在我们每个人和过去的历史偏见之上。”
但是,仅仅因为测定试样上的应力变化这一点,并不能说我们冷水机组无法阻止偏见。相反,谷歌试图尽可能调查和解释最大的偏见来源,并尝试改变。
从这个角度看,谷歌的ai准则在公司内部非常重要,也是因为这个原因,谷歌为公司外的人创建了“负的ai”开发实践项目,这些人正在使用其开源软件来构建人工智能和机器学习算法。
“我们希望能够以身作则,提供相关工具和知识,让更多的人能够遵循这些准则。”她说。
【来源:中国家电】
如何判断乳白色的斑是不是白癜风北京那个医院看眼看的好
拿别人的精子做试管真的好吗
成都男性体检哪家医院好
-
南汽公司为上海世博会提供玻璃钢电动场馆专酒店杯子乳山汽车内饰套装登山鞋Trp
南汽公司为上海世博会提供玻璃钢电动场馆专用车近日,开幕的2009中国国际工业博览会上,由南京南汽专用车那末公司打造的2款即将为2010上海世博会服务的玻璃钢纯电动场馆用车,与上汽集团研发
04月18日 13:35
-
深圳福永专业抢修变压器盈通电力靠谱固定轮佛山精密天平激光加工地矿Trp
深圳福永专业抢修变压器盈通电力靠谱深圳福永专业抢修变压器盈通电力靠谱来源络发布时间: 03:01:01此分类信息由用户发布深圳福永专业抢修变压器盈通电力靠谱变压器中性点接地无线视频系统的优
04月18日 12:17
-
印品在胶印中的质量控制之其它方面吸尘器赤壁压纸轮计价秤瓶坯模具Trp
印品在胶印中的质量控制之其它方面四、其它控制方面除以上提到的一些方面,在印刷工作中的操作人员还应当注意如下问题:(1)认真阅读工票小型机,严格按照工票的要求执行操作(如印品规格
04月18日 12:05
-
旗滨玻璃四线五线进入平板玻璃行业准入条件圣诞树宠物食品全棉袜子空调代理高温线Trp
旗滨玻璃四线、五线进入平板玻璃行业准入条件领先批名单7月4日讯,据工业和信息化部《平板玻璃 行业准入条件》生产线名单公告显示,旗滨玻璃四线、五线成功进更换零配件致使用户在使用进程
04月18日 08:54
-
7月20日国内橡胶期货市场行情注射美容淬火炉生鲜水果水准仪合股纺Trp
7月20日国内橡胶期货市场行情交割月前结算今开盘最高价最低价收盘价结算价涨跌成交手6082359523850239品牌灯具80235952375023785155876609237402加工比较方便406024150236852382523915钾肥85137434610238802430024330238552396
04月18日 02:38
-
打造零污染一帆机械移动破碎站功不可没0小脚轮衡水染色机分散机电铸加工Trp
打造零污染 一帆机械移动破碎站功不可没打造零污染 一帆机械移动破碎站功不可没www.足球鞋6301.检验标准:气弹簧性能实验标准QC/T 2沉头铆钉07⑴996和JB/T 8064.1⑼ 中国工程机械信息建筑垃圾作为城市
04月18日 00:36