Онтологически-ориентированная ... Заметка

Онтологически-ориентированная наблюдаемость: построение сквозного графа знаний в масштабах Netflix

Компания сталкивается с трудностями в понимании своей массивной, сложной инфраструктуры, особенно во время прямых трансляций, таких как бой Джейка Пола и Майка Тайсона, который привлек 65 миллионов просмотров. Отладка проблем, таких как медленная отрисовка домашнего экрана, может занимать часы, поскольку информация разрознена по разным системам. Эти системы собирают данные с помощью метрик, событий, логов и трассировок (MELT), но эффективная корреляция этих данных затруднена. Основная проблема заключается в отсутствии общего, машиночитаемого понимания операционных сущностей.Для решения этой проблемы была разработана "Онтология наблюдаемости" — формальная спецификация типов, свойств и отношений в операционном мире. Эта онтология использует стандарты, такие как RDF, OWL, SHACL и SPARQL, храня данные в виде графа знаний. Ключевым решением при проектировании было избегать общего типа "Сервис", вместо этого используя конкретные, проверенные типы, такие как ops:Application. Также было принято решение моделировать рассуждения и контекст из обсуждений инцидентов, преобразуя неструктурированный чат в структурированные тройки.Онтология создает детерминизм из изначально стохастических процессов, таких как LLM и нечеткое сопоставление, с помощью конвейерного подхода. Этот конвейер использует "обогатители", которые снижают энтропию, преобразуя зашумленные входные данные в типизированные тройки, следуя строгим контрактам. Эти обогатители гарантируют, что каждая сущность имеет тип, URI следуют схеме именования, а приложения проверяются по каталогу. Конвейер выполняется последовательно, чтобы избежать состояний гонки, при этом внешние вызовы выполняются по возможности, чтобы предотвратить блокировку.Затем "Движок корреляции" объединяет сигналы из различных источников, выявляя причинно-следственные или корреляционные цепочки событий. Он анализирует тринадцать типов сигналов, предлагая гипотезы с доказательствами и оценками уверенности, сохраняя поддерживающие записи графа. Каждый цикл наблюдения, обогащения, корреляции и хранения формирует "Маховик знаний", непрерывно обогащая граф знаний и улучшая контекст системы. Этот маховик призван сократить время отладки, предоставляя унифицированное и взаимосвязанное представление операционной деятельности системы.
CdXz5zHNQW_iZ7761FCA3.png