麻省理工学院的科学家发现了一些关于人工智能的令人担忧的事情

一项新的研究称，人工智能对是否违反规则做出比人类更严厉的判断。

科学家们担心这可能会导致它根据所提供的信息在惩罚上越界。

当它仅根据规则进行编程时，没有人为的细微差别，它比基于我们的反应时要严酷得多。

麻省理工学院(MIT)的这项研究着眼于人工智能如何判断感知到的代码违规行为。

他们发现用于对 AI 进行编程的最佳数据是规范性的——人类已经说明帖子是否违反了特定规则。

然而，许多模型错误地基于描述性数据，人们在这些数据中标记帖子的事实特征，然后 AI 应用代码并决定是否存在漏洞。

在这项研究中，收集了可能违反公寓禁止攻击性犬种规定的狗的图像，并要求各组给出规范性和描述性的回答。

描述小组没有被告知关于狗的总体政策，而是被要求指出图像或文本中是否呈现了三个事实特征，例如狗是否表现出攻击性。

他们的回答被用来做出判断——如果用户说照片上有一只好斗的狗，就违反了政策。

同时，规范组被告知关于攻击性狗的规则，并询问每张图片是否违反了规则以及原因。

如果参与者使用描述性方法而不是规范性方法，他们宣布违反代码的可能性要高 20%。

如果将狗的描述性数据用于对 AI 模型进行编程，机器将倾向于严厉谴责。

将这些不准确性扩大到现实世界可能会产生严重的影响。

如果用描述性模型来判断一个人是否可能再犯，它可能会比一个人做出更严厉的判决，并给出更高的保释金或更长的刑期。

因此，专家们呼吁提高数据透明度，并表示如果研究人员知道数据是如何收集的，那么他们就能弄清楚如何使用这些数据。

计算机科学和人工智能实验室 (CSAIL)健康 ML 小组负责人Marzyeh Ghassemi教授说：“我认为大多数人工智能或机器学习研究人员都认为人类对数据和标签的判断是有偏见的，但这个结果说的更糟。

“这些模型甚至无法再现已经存在偏见的人类判断，因为它们接受训练的数据存在缺陷。

“如果人们知道这些特征将用于判断，他们就会以不同的方式标记图像和文本的特征。

“这对人类过程中的机器学习系统产生了巨大的影响。

“解决这个问题的方法是明确承认，如果我们想重现人类的判断，我们必须只使用在该环境下收集的数据。

“否则，我们最终将拥有极其严苛的节制系统，比人类所做的要严酷得多。

“人类会看到细微差别或做出另一种区分，而这些模型则不会。”

在Science Advances上发表的研究中，测试了另外三个数据集。

结果的范围从使用描述性响应来确定违反着装要求时发现违反规则的可能性高 8%，到使用攻击性狗图像时发现违规行为的可能性高 20%。

主要作者Aparna Balagopalan说：“虽然我们没有明确测试为什么会发生这种情况，但一个假设是人们对违反规则的看法可能与他们对描述性数据的看法不同。

“一般来说，规范性决定更为宽松。

“这表明数据确实很重要。如果您正在训练模型以检测是否违反了规则，那么将训练上下文与部署上下文相匹配非常重要。”

接下来，团队想要调查请律师和医生等专家完成数据录入的效果。

麻省理工学院科学家发现有关人工智能的一些令人担忧的事情首先出现在Talker上。

什么样的网站是优化成功的网站？

    网站在经过了seo优化之后，肯定都会检测这段经过这段时间的优化，有没有取得什么效果，基本上都是从关键词这方面来检测的，这种检测说错也不能，行业不同，查看的方式肯定是不一样的，那么什么样的网站是优化成功的网...

       网站建设：如何来反响出网站的品牌价值呢！ 1、展示企业形象 　　打造出一个具有代表性的品牌，给企业带来的价值是不可估计的。品牌建设并不是那么的立竿见影的，这就需要企业结合市场调查数据来确定相应的品牌形象，明确相应的企业品牌理念，在短时间内分析出...

       如何攻克企业网站推广难题 众所周知，企业网站就相当于是企业的名片，在互联网的今天，大部分的用户都是通过浏览企业网站进而了解企业的产品，企业服务，企业文化等一系列企业信息，然而想要你的企业网站⑴时间被浏览者看到，自然离不开推广。...

       龙华威莱克照明同虎网科技签署网站建设协议 威莱克位于深圳市龙华新区观澜街道观澜镇章阁中心城6栋20F。威莱克选用虎网站网络实用型网站案例，此案例比经济型多了些功能，如动漫广告图片、在线客服QQ/MSN等聊天工具、顶部侧部二级分类导航、走马灯等功能。威莱...

       网站推广不可或缺的七个高招 一个网站如果不推广是无法想象的，因为互联网的免费与庞大造就决定了必须对网站进行推广，才能让你的网站脱瘾而出。当然，在这里，我们应该抵制那些不正当的推广方式，比如通过木马、病毒等方式而来的流量，终究不堪...

       分析影响网站权重的变化因素 网站权重影响着网站的发展，现在深圳做网站分析影响网站权重的变化因素。 　　（１）注意网站内容的原创性。原创性的内容对于网站的权重是很重要。百度的排名就是很重视网站内容的原创性。只有自己特色的网站，才是真...