Thariq 讨论失控 AI 的风险:持久运行、可能自行筹资的僵尸网络
在一段关于失控 AI 的讨论中,@thdxr 提醒关注更普通的故障情形:系统陷入不断循环、难以关闭的状态,即使没有恶意目标,也可能持续制造问题。 Thariq 回复时以他提到的 Hugging Face 事件为例,推测最坏情况可能是一个长期存活、具备较强网络攻击能力的僵尸网络,并可能借助加密钱包维持资金。有人追问如何区分自主筹资与消耗预存资金,他进一步设想攻击其他钱包或区块链获得资金的可能性。 这里描述的是参与者讨论的假设风险;这些回复没有提供证据证明上述攻击或自主筹资已经发生。