LSM-2:不完全なウェアラブルセンサーデータからの学習
ウェアラブルデバイスは膨大な量の健康データを生成しますが、このデータにラベルを付けるのは高価です。自己教師あり学習(SSL)は、ラベルなしデータを利用して、データの基盤となる構造を学習できます。現在のSSL手法は、ウェアラブルセンサーのストリームで一般的に発生する、様々な理由による不完全なデータに対処するのに苦労しています。「LSM-2」は、不完全なウェアラブルセンサーデータから直接学習するSSLフレームワークであるAdaptive and Inherited Masking(AIM)を導入します。AIMはデュアルマスキングアプローチを使用し、自然に発生するトークンと人工的にマスクされたトークンを同等に扱います。AIMを使用してLarge Sensor Model(LSM-2)が開発され、以前のLSM-1モデルが改善されました。LSM-2は、60,000人の参加者から得られた4,000万時間に及ぶウェアラブルデータで事前学習されました。活動認識、高血圧分類、データ再構築などのタスクで評価されました。LSM-2は、分類、再構築、健康指標の予測においてLSM-1を上回ります。AIMにより、LSM-2は補完なしでデータの欠損を処理できるようになり、パフォーマンスと堅牢性が向上しました。LSM-2は、ユーザー、データ量、モデルサイズ全体でのスケーラビリティも向上しています。