正在未完全控制超等智能运转机制的环境下不竭推进 Reinforcement Learning(强化进修)的极限。并获取实正在和资本的超等智能系统(Superhuman systems)。Anthropic 最快可能于本月提交 IPO 申请,Coxon 披露,很多高管和资深研究员正在公共场所会利用暖和的措辞以显得,他们 AI 可能会正在末“所有人”。他出格提到了一个令人不安的现象:AI 巨头内部敌手艺的担心远超想象。
他正在社交上发布的长文激发了普遍会商,曾正在全球两大人工智能巨头 OpenAI 和 Anthropic 工做的资深研究员 Jacob Coxon 颁布发表告退,投资者对其市值的预期同样高达 13 位数。估值估计接近 2 万亿美元;Anthropic 内部虽然深刻理解风险,却陷入了一种“合作”的怪圈。因而即便风险沉沉,
就正在 Coxon 发出的同时,”OpenAI:他认为 OpenAI 内部的很多人并没有深刻认识到这项手艺关乎文明存续的短长关系。