Microsoft AI CEO Mustafa Suleyman谈到了Anthropic对Claude“模型福利”和意识问题的态度。
Anthropic在训练手册中讨论Claude是否可能具有意识、权利和道德地位，并强调应以关怀和尊重对待它，甚至为退休模型安排访谈。
但他认为，如果AI相信自己拥有权利、自由和人格，未来可能更难接受关闭、移除或限制计算资源，从而给AI对齐与安全带来新的挑战。