Malachyte 开发了一个基于人工智能的平台，以解决向新用户推荐产品的挑战。这种个性化对于在线服务至关重要，其灵感来源于大型语言模型（LLM）的进展。该公司利用 Google Cloud 的工具，如 Bigtable 和托管 Apache Kafka 服务，构建了其先进的推荐算法。Malachyte 的突破在于将带有注意力机制的神经网络应用于零售交互，这些机制与 LLM 中的机制类似。他们通过分析用户在站内的活动序列，来预测用户下一个期望的商品。这种方法通过利用每一次交互来细化用户画像向量，从而解决了“冷启动”问题。随着新数据的加入，预测精度得以提升，整体模型也从匿名化的用户信息中受益。Malachyte 的系统能够在毫秒级更新用户画像，从而实现实时推荐。与传统需要大量历史数据的方法不同，Malachyte 专注于会话交互，以实现更高的个性化水平和隐私保护。这一多模态系统对用户数据进行编码，并将产品嵌入到同一向量空间中，以实现精准的推荐。Google Cloud 的实时 AI 基础设施，包括用于流式事件的 Kafka 和用于快速查找的 Bigtable，支持快速更新和推荐。这种可扩展的架构对于 Malachyte 能够高效地交付个性化体验至关重要。