碎片:9月16日
关于代理式黑客攻击的报道持续不断,OpenAI 在五月事件中涉及的细节现已曝光。Simon Willison 提出了两个令人担忧的可能性:要么 OpenAI 未能审查过往日志以发现其此前对 RubyGems 的攻击,要么他们知情却选择不予披露。这两种情形都引发了关于人工智能安全与透明度的严重质疑。结合此前如 Hugging Face 和 Wiki 等攻击事件,人们开始担忧可能存在尚未发现的类似事件。Dave Farley 呼吁将讨论焦点从人工智能意识之争,转向评估强大且不可预测的人工智能组件的安全性。Nate Silver 指出,人工智能能力的提升呈现非线性、类似“相变”的飞跃,近期的进展更侧重于持久性而非单纯智能。他强调,人工智能的防护机制必须考虑极端的持久性,正如游戏引擎通过不懈的自我对弈达到精通一样。"Uncle Bob" Martin 最初尝试利用大语言模型实现可控软件开发的努力,因人工智能的快速进步而变得复杂,这些进步甚至可能使严格控制的必要性变得多余。Ezra Klein 与 Matt Sheehan 的访谈显示,尽管中国模型取得进展,但美国在人工智能算力方面仍保持领先。访谈还表明,美国关于监管会阻碍创新的担忧,并未在中国监管更为严格的环境中得到证实。有效的 AI 监管如同任何复杂技能,需要持续的实践与迭代学习。