六项评测已更新:查看评分依据 →

研究

记录我们在仿真环境与机制性验证方面的研究。

焦橙色圆盘与细密墨线交错,映衬深蓝色几何图形。

我们的研究主张

01

人工智能取得进展的领域,都有清晰的反馈。

国际象棋、围棋、编程和数学都有明确的判定方式;其他经济活动往往没有。

02

判断好坏,仍离不开专业人士。

人工智能已经参与改进人工智能,但判断什么算更好,仍需领域专家定义。

03

让模型当裁判,也可能被钻空子。

优化过程会寻找最容易拿到分数的路径;业务机制本身更难被表面答案欺骗。

04

因此,我们让仿真环境给出反馈。

重放相同情境,只改变行动,再按真实规则确定后果。

研究与公开材料

面向企业软件智能体的不变量验证

围绕业务约束验证任务是否完成,并对验证器本身开展对抗评估的设计框架。

研究中
衍真研究