迈克尔·赫德里希和乔纳斯·费舍尔的研究正是在此发挥作用。他们开发了一种软件，能够检测高度复杂的机器学习算法中的缺陷并帮助进行修正。

得益于机器学习算法，计算机能够完成令人惊叹的壮举，甚至在以前被认为只有人类才能胜任的领域，例如语言和艺术。这些计算方法基于所谓的人工神经网络。“这些网络是由数学函数组成的，它们根据某些可定制的参数对输入进行加权，并由此生成输出，”来自德国萨尔兰大学和美国康奈尔大学的研究员迈克尔·赫德里希解释道。这些被称为神经元的函数串联起来，并用数据进行训练，因此计算机能够从数百万张照片中筛选出猫，或者生成与人进行逼真对话的语音。

“OpenAI 的 GPT-3 是世界上最先进、引用率最高的文本合成算法之一，它在生成输出之前会使用 1750 亿个参数来处理输入。人类几乎不可能追踪这个过程并理解错误发生在哪里，” 哈佛大学博士后研究员 Jonas Fischer 说道。此前最先进的方法是分析机器学习算法的输出，找出其中的错误并逐一列出。专家们随后必须在数据集中寻找模式，而这些数据集很容易包含数千条记录。在我们的新 软件 PyPremise 中， 我们使用数据挖掘技术自动搜索这些错误数据集中的特定模式，并最终将它们分组到易于理解的“错误类别”中。因此，我们的软件无需逐一列出每个错误，而是能够以更抽象的方式概括错误，并做出如下陈述：“您的机器学习算法难以处理包含‘多少？’问题的语句。” “这是由于案例 X、Y 和 Z 中的错误结果造成的，”Michael Hedderich 解释道。

萨尔布吕肯的研究人员使用合成数据集和真实数据集测试了他们的软件。在此过程中，他们证明了他们的方法能够适应具有多种不同数据点属性的大型数据集，并提供可靠的结果。“例如，操作员可以利用由此获得的关于机器学习算法弱点的信息来审查他们的训练数据，从而纠正系统的错误，”Jonas Fischer解释道。最初，这两位计算机科学家开发的软件工具仅适用于自然语言处理领域的算法。然而，他们的目标之一是扩展该工具，使其也能应用于其他领域。Michael

Hedderich是一位计算机科学家，在康奈尔大学和萨尔兰大学计算语言学教授Dietrich Klakow的“口语系统”研究小组工作。乔纳斯·费舍尔去年夏天在萨尔兰大学获得博士学位，此前他在亥姆霍兹信息安全中心（CISPA）的吉勒斯·弗雷肯教授的指导下，在马克斯·普朗克信息学研究所完成了博士学位。乔纳斯目前是哈佛大学的博士后研究员。研究人员于2022年7月在国际机器学习大会（ICML）上首次展示了该软件的科学基础。ICML是该领域世界领先且最具声望的会议之一，通常只有五分之一的投稿论文会被接收。