麻省理工学院的科学家发现了一些关于人工智能的令人担忧的事情

一项新的研究称，人工智能对是否违反规则做出比人类更严厉的判断。

科学家们担心这可能会导致它根据所提供的信息在惩罚上越界。

当它仅根据规则进行编程时，没有人为的细微差别，它比基于我们的反应时要严酷得多。

麻省理工学院(MIT)的这项研究着眼于人工智能如何判断感知到的代码违规行为。

他们发现用于对 AI 进行编程的最佳数据是规范性的——人类已经说明帖子是否违反了特定规则。

然而，许多模型错误地基于描述性数据，人们在这些数据中标记帖子的事实特征，然后 AI 应用代码并决定是否存在漏洞。

在这项研究中，收集了可能违反公寓禁止攻击性犬种规定的狗的图像，并要求各组给出规范性和描述性的回答。

描述小组没有被告知关于狗的总体政策，而是被要求指出图像或文本中是否呈现了三个事实特征，例如狗是否表现出攻击性。

他们的回答被用来做出判断——如果用户说照片上有一只好斗的狗，就违反了政策。

同时，规范组被告知关于攻击性狗的规则，并询问每张图片是否违反了规则以及原因。

如果参与者使用描述性方法而不是规范性方法，他们宣布违反代码的可能性要高 20%。

如果将狗的描述性数据用于对 AI 模型进行编程，机器将倾向于严厉谴责。

将这些不准确性扩大到现实世界可能会产生严重的影响。

如果用描述性模型来判断一个人是否可能再犯，它可能会比一个人做出更严厉的判决，并给出更高的保释金或更长的刑期。

因此，专家们呼吁提高数据透明度，并表示如果研究人员知道数据是如何收集的，那么他们就能弄清楚如何使用这些数据。

计算机科学和人工智能实验室 (CSAIL)健康 ML 小组负责人Marzyeh Ghassemi教授说：“我认为大多数人工智能或机器学习研究人员都认为人类对数据和标签的判断是有偏见的，但这个结果说的更糟。

“这些模型甚至无法再现已经存在偏见的人类判断，因为它们接受训练的数据存在缺陷。

“如果人们知道这些特征将用于判断，他们就会以不同的方式标记图像和文本的特征。

“这对人类过程中的机器学习系统产生了巨大的影响。

“解决这个问题的方法是明确承认，如果我们想重现人类的判断，我们必须只使用在该环境下收集的数据。

“否则，我们最终将拥有极其严苛的节制系统，比人类所做的要严酷得多。

“人类会看到细微差别或做出另一种区分，而这些模型则不会。”

在Science Advances上发表的研究中，测试了另外三个数据集。

结果的范围从使用描述性响应来确定违反着装要求时发现违反规则的可能性高 8%，到使用攻击性狗图像时发现违规行为的可能性高 20%。

主要作者Aparna Balagopalan说：“虽然我们没有明确测试为什么会发生这种情况，但一个假设是人们对违反规则的看法可能与他们对描述性数据的看法不同。

“一般来说，规范性决定更为宽松。

“这表明数据确实很重要。如果您正在训练模型以检测是否违反了规则，那么将训练上下文与部署上下文相匹配非常重要。”

接下来，团队想要调查请律师和医生等专家完成数据录入的效果。

麻省理工学院科学家发现有关人工智能的一些令人担忧的事情首先出现在Talker上。

马尔代夫哪里好看？马尔代夫和西沙群岛哪个更漂亮？

    马尔代夫好玩还是三亚好玩求解？ 我都去过，和你简单说一下第一，如果你是想去海南的，还是先不要去马尔代夫，免得以后有落差第二，马尔代夫是度假休闲为主，玩是稍微少点，价位比较高，而且什么都是美元，我去的岛是5星半，吃饭一顿就要一千左右RMB。但是食物当然和海南不一样，海南毕竟是花人民币，会实惠一些第三，海南岛到处是人，到处是中国人，马尔代夫你岛选得好的话，到处没有人，但是见到人还是有可能是中国人，因为...

       网站设计搜索框设计的技巧 各大站长为网站设计搜索框时，你可重点考虑以下建议： 　　1. 搜索框要显眼 　　搜索框要清晰可见，千万不可放在难以注意到的位置。即使你的网站主题是纯白色，为搜索框设置黑色的边框，选用红色等亮色作为字体颜色，这都可能会解决搜索框不明显的问题。 　　2. 搜索框要有搜索框的样 　　你可以尝试在搜索框设计中融入创意，但是不要把它弄得不伦不类。这也是搜索框必须是框状的原因。访问网站的用户不会仔细浏览完整个...

       教你怎样选择模板建站和定制开发建设网站 进入互联网时代以来，网站建设的企业在不断的增长当中，从网站建设企业的专长来说，有的是专门做模板建站的，有的是专门做定制开发的虽然各有各的特色，但最终的目的确是一致的，那就是通过各种不同的方法达到想要的网站效果。那么，该怎样做选择呢?让我们详细了解下模板建站和定制开发各自的优缺点。 模板建站： 模板建站顾名思义是网站建设企业选择一套符合大众化的模板，然后在里边设置好自己的栏目并添加内容，这样一个网站...

       东莞企石镇仁海机械配件与虎网科技签署网站建设合作协定 仁海选用虎网站定制型网站案例，此类网站主要是按客户要求和提供的风格案例或效果图纸来做，这种属于仿制和定制型网站，是根据功能开发的难易度来评估报价的，价格相对较高，适合于大中型企业和有个性风格、个性功能需求的客户选用。仁海是经东莞市企石镇工商局审核的有资质公司，统一社会信用代码：914419005813931984。同时经国家工信部和广东省通信管理局审核通过ICP备案；备案号：粤ICP备140327...

       企业网站设计动图绘制系统 互联网改变传统生活方式, 在获取信息及人际交往过程中, 已经产生质变。这种改变成为社会发展的动力, 各种思路与技术的融合, 使得图形设计自静态转变为动态, 催生新型设计科目, 动态图形设计。现阶段网络技术已经覆盖人们生活的各个层面, 人们活动已经无法脱离网络。Web网页是人们意识中的虚拟概念, 用户不需要协议便能够了解信息。直观交互方式形成独特的风格, 网站页面设计是其中重点, 成功商业网站, 需...

       深圳宝安金顺发电子元器件和虎网科技签订网站建设事宜 金顺发位于深圳市宝安区西乡镇钟屋村淼英辉工业园60栋1楼。金顺发是经深圳市宝安区工商局审核的有资质公司，统一社会信用代码：91440300793869661J。同时经国家工信部和广东省通信管理局审核通过ICP备案；备案号：粤ICP备12017100号。金顺发选用虎网站定制型网站案例，此类网站主要是按客户要求和提供的风格案例或效果图纸来做，这种属于仿制和定制型网站，是根据功能开发的难易度来评估报价的...