美德伦理学：当面临伦理问题时，确定一个道德智能体，他体现了我们所注重的道德原则，然后他的选择就是我们应该去做的选择。
目标状态：在问题解决中，目标状态描述了我们成功完成任务时希望看到的状态。
纳什均衡：博弈论里的一个核心概念，如果任意一位参与者在其他所有参与者的策略确定的情况下，其选择的策略都是最优的，那么这个组合就被定义为纳什均衡。
逆向强化学习：机器学习程序观察人类的行为，试图从观察中学习到奖励系统。
判定问题：判定问题是指答案可以用是/否来回答的数学问题。例如“16的平方根是4吗？”和“7920是质数吗？”之类。艾伦·图灵解决了判定问题，即是否所有的数学判定问题都是可判定的。他指出有一些判定问题(尤其是停机问题)无法用算法来解决，这种类型的问题即是不可判定问题。
偏好/偏好关系：对于所有可供选择的事物，你按照偏好程度进行排序。如果想要一个智能体代表你行事，它需要知道你的偏好，才能为你做出最佳选择。
普罗米修斯工程：20世纪80年代欧洲无人驾驶汽车技术的开创性实验。
奇点：机器智能超越人类智能的假设节点。
启发式搜索：一种利用“经验法则”来决定集中搜索方向的方法，启发式搜索是基于经验法则的，所以无法保证搜索方向一定正确。另请参见A*。