AI幻觉变得更加危险，因为模型越来越信任表面信息并做出关键决策。
我们所有人都有一个知识的朋友，他们什么都不知道，或者根据他们在互联网上阅读的内容提供狡猾的建议。 AI模型的幻觉与朋友相似，但是该模型可能负责制定您的癌症治疗计划。
这是Themis AI是图片的一部分。这种麻省理工学院的革命设法取得了成就，从理论上讲这似乎很简单，但实际上这很复杂，教导AI系统说：“我不确定这一点。”
AI系统通常表现出自信。 Themis的CAPSA平台可以作为对人工智能的现实测试，帮助模型何时冒险猜测，而不是为了信心。
MIT教授Daniela Rus成立于2021年，与前研究同事Alexander Amini和Elaheh Ahmadi一起成立，Themis AI开发了一个平台，几乎可以与任何人工智能系统集成，以标记不确定性的时刻，然后才会导致错误。
实际上，CAPSA正在教授AI检测模板如何处理可能表明其混淆，流离失所或与可能导致幻觉的不完整数据的信息进行处理。
自从Themis推出以来，它已经帮助电信公司避免了昂贵的网络计划错误，石油和天然气公司在理解复杂的地震数据方面的帮助，并发表了有关创建不确定创造事物的聊天的研究。
大多数人仍然不知道AI系统仅接受最佳假设的频率。由于这些系统处理越来越重要的任务，因此这些假设可能会产生严重的后果。 Themis AI软件增加了一层自我意识。
主题与AI幻觉的战斗之旅
许多年前，AI的旅行始于麻省理工学院实验室教授RUS，该团队调查了基本问题：您如何知道汽车关于其自身限制的？
2018年，丰田资助了对独立部门的可靠AI研究，其中错误可能是致命的。当自动驾驶汽车应准确识别行人和其他道路危险时，赌注非常高。
他们的突破发生在他们开发出可以在人体认可系统中识别种族和性别偏见的算法时。他们的系统实际上不是简单地确定问题，而是通过重新加载培训数据来纠正培训数据，实际上是教AI来纠正自己的偏见。
到2021年，他们证明了这种方法如何彻底改变毒品的检测。 AI系统可以评估潜在的药物，但是，这很重要，当它们的预测是基于可靠证据的旗帜与经过教育的猜测或完全幻觉相比。制药行业认识到潜在的金钱和时间节省，仅着眼于人工智能充满信心的候选药物。
技术的另一个优点是具有有限的计算能力的设备。边缘设备使用较小的型号，这些模型与服务器上的大型模型的准确性相对应，但是借助Themis技术，这些设备将更有能力在本地执行大多数任务，并且只有在面临困难的东西时才需要对大型服务器进行要求。
AI具有改善我们生活的巨大潜力，但这种潜力伴随着真正的风险。随着AI系统变得更加深入地整合到关键基础设施和决策中，识别导致幻觉的不确定性的能力可能是他们最有价值的人，也是最有价值的质量。主题AI确保他们研究这种决定性技能。
参见： 糖尿病的治疗：IBM和Roche使用AI预测血糖水平
想进一步了解人工智能和行业领导者的大数据吗？ 检查在阿姆斯特丹，加利福尼亚和伦敦举行的AI和大数据博览会。全面的活动以及其他领先活动，包括智力自动化会议，Blockx，一周的数字化转型和网络安全以及云博览会。
基于Techforge在此处探索企业技术和网络研讨会的其他事件。
