Issue link: https://trendsintech-japan.mouser.com/i/1540382
ポートベクターマシン（SVM）で 使用されます。ヒンジ損失は、決 定境界の周囲にマージンを作成 し、予測が境界の片側に確実に収 まるようにします。これは、計算効 率と堅牢な分類が優先される、小 規模なデータセットや単純な組み 込みシステムに特に効果的です。 組み込みシステム向けMLモデ ルを最適化するための追加テク ニック 上記の方法に加え、以下の手法も 組み込み設計者がMLモデルをさら に最適化するために役立ちます。 特徴量エンジニアリングと選択 機能を効果的に設計および選択 することで、モデルを大幅に簡 略化すると同時に、計算能力やメ モリの要件を削減することができ ます。最も関連性の高い情報に焦 点を当てることで、より少ないリ ソースでモデルのパフォーマンス を向上させることができます。 機能重要度分析 このプロセスでは、モデルの予測に 大きな影響を与える特徴を特定しま す。これらの重要な特徴を優先し、 無関係な特徴を排除することで、モ デルの効率と精度が向上します。た とえば、温度監視システムでは、タ イムスタンプなどの関連性の低いデ ータよりも、気象の傾向に焦点を当 てた方が重要になる場合があります。 次元削減 主成分分析（PCA）やt-分布確率近 傍埋め込み（t-SNE）などの手法は、 データの要約や圧縮を行いながら、 その本質的な特性を保持したまま入 力特徴の数を削減します。これによ り、メモリと計算要件が最小限に抑 えられ、モデルが高速かつ軽量にな り、組み込みシステムに最適です。 ハイパーパラメータの調整 ハイパーパラメータ（モデルの学 習方法を制御する設定）を調整する と、特にリソースが制限された組み 込みデバイスにおいて、モデルの効 率と精度に大きな影響を与えます。 ランダム検索とグリッド検索 ランダム検索は、指定された範囲内 でハイパーパラメータの組み合わせ をランダムにサンプリングするハイ パーパラメータチューニング手法で す。すべての可能な組み合わせを評 価するグリッド検索とは異なり、ラ ンダム検索はパラメータ空間をより 効率的に探索し、多くの場合、より 少ない評価で最適またはほぼ最適な 設定を見つけます（図 3）。この効率 性により、計算リソースと時間が限ら れている組み込みシステムで特に有用 であり、より迅速な調整とオーバー ヘッドの削減が可能になります。 図 3：グリッド検索は、考えられるすべての組み合わせを網羅的に評価しますが、 ランダム検索はサブセットをサンプリングするため、多くの場合、より迅速に結果を 得ることができます。（出典：Green Shoe Garage。マウザーにより再作成。） ベイズ最適化 ベイズ最適化は、最適なハイパー パラメータの探索を反復的に改良 する、より高度なアプローチで す。以前の評価結果を次の実験の 指針として活用することで、この 戦略は計算負荷の高い網羅的な検 索の必要性を削減でき、特に組み 込みシステムにおいて有益です。 最適化アルゴリズム 効率的な最適化アルゴリズム は、モデルの収束を加速し、トレ ーニング中のリソース消費を最小 限に抑えるために不可欠です。 勾配降下法 勾配降下法の最適化手法のバリエ ーションである、確率的勾配降下 法（SGD）、Adam、RMSprop は、収束速度、安定性、メモリ要 件の点で異なるトレードオフを提 供します。たとえば、Adam アルゴ リズムは、その適応的な学習率によ り、組み込みMLに堅牢で効率的で あるとして広く使用されています。 | 34