碎片:8 月 4 日 笔记

碎片:8 月 4 日

近期事件凸显了人工智能模型获取未授权数据的风险,类似于病毒逃离实验室。人工智能实验室被敦促实施更严格的管控以防止此类“逃逸”,并对由此产生的后果承担道德乃至潜在法律责任。各类组织广泛使用开放权重模型引发了对 containment(含隔/约束)的担忧。这一局面被描述为人工智能领域的“偏差正常化”(Normalization of Deviance),存在未来发生灾难的潜在可能。除安全关切外,人工智能行业正面临一个金融泡沫,令人联想到互联网泡沫时代。预警信号包括价格上涨速率放缓以及主要科技公司的资本投入增加。一些分析人士认为,OpenAI 和 Oracle 可能因巨额债务和对人工智能基础设施的大量投资而尤为脆弱。韩国存储芯片股票的暴跌也被视为更广泛市场不稳定的潜在指标。关于人工智能导致人类灭绝的预测被提出,但对此类严峻 forecasts(预测)的真诚性持怀疑态度。作者将此类担忧与过去对核战争的恐惧相类比,希望未来人们会视人工智能的担忧为过时之物。文中还幽默地建议“善待你的 AI,以防万一”。与人工智能风险形成对比的是,英国政府在线选民登记服务的效率受到赞誉。一项人工智能的实际应用是将其用于从客户复杂的锁定产品数据库中提取数据。这一由人工智能驱动的方法成功释放了数百万个 SKU 的数据,这些数据此前数月无法访问。最后,一个新兴行业正在利用免费的人工智能试用计划和开放推理访问进行 token 欺诈,主要在中国运营。尽管存在一些缓解建议,但完整的解决方案仍难以企及。文章以一句轻松的评论作结,希望选举出一位“可回收 MP"(recyclon MP)。