AIカメラは、危険区域への立ち入りを検知したり、安全規則に違反する行動を認識したり、異常な状況が発生した際にアラートを送信したりすることができます。しかし、リスクを検知できたからといって、そのリスクが適切に対処されたとは限りません。

工場環境では、それぞれのアラートに対して、状況の確認、危険度の評価、現場での対応など、異なる行動が求められる場合があります。これが、Human-in-the-Loop（HITL：人間参加型AI） が安全監視にAIを導入する際の重要なアプローチとなっている理由です。

では、Human-in-the-Loopとは何でしょうか。なぜAIには依然として人間の関与が必要なのでしょうか。また、企業は安全管理の効率を高めるために、AIと人間をどのように組み合わせるべきなのでしょうか。

Human-in-the-Loopとは？

Human-in-the-Loopとは、AIの自動処理能力と、確認、評価、意思決定が必要な段階における人間の関与を組み合わせたモデルです。

工場の安全監視では、AIカメラが映像を継続的に分析し、あらかじめ設定された条件に該当する事象を検知できます。異常の兆候が現れると、システムはアラートを生成し、担当者が状況を確認して適切な対応を取れるようにします。

例えば、AIカメラがフォークリフトの作業区域に入った作業員を検知したとします。システムはその事象を記録して通知を送信できますが、担当者はフォークリフトの稼働状況、作業員の位置、危険度を確認したうえで、適切な対応方法を判断する必要があります。

このモデルでは、AIが監視と検知を支援し、人間が状況の評価、対応、安全活動の改善に責任を持ちます。

ただし、Human-in-the-Loopは、すべてのアラートに人間の承認が必要であることを意味するものではありません。差し迫った危険がある場合、警報システムや専用の保護装置は、妥当性が確認された安全設計に従って対応する必要があります。

なぜ安全監視においてAIには人間が必要なのか？

AIは画像を認識できても、状況の背景を完全には理解できない

AI VisionはComputer Vision（コンピュータービジョン）を活用して、物体の認識、動作の分析、異常な状況の検知を行います。しかし、その認識結果は映像データと事前に設定されたルールに依存します。

例えば、機械の近くでかがんでいる作業員は、所定の手順に従って保守作業を行っている可能性もあれば、設備が稼働している状態で危険区域に近づいている可能性もあります。見た目が似ている二つの状況でも、リスクの程度や必要な対応は大きく異なります。

適切な判断を下すためには、AIが提供する情報に加えて、設備の稼働状態、作業手順、現場の実際の状況を総合的に考慮する必要があります。

AIは誤報を出したり、事象を見逃したりする可能性がある

AIカメラの認識精度は、照明、カメラの設置角度、障害物、映像品質、アルゴリズムの限界など、さまざまな要因の影響を受けます。通常の行動を危険と誤認識したり、作業員が障害物に隠れている場合に事象を検知できなかったりする可能性があります。

人間が関与することで、不確実な認識結果を確認し、適切に認識できていないケースを特定し、システムの改善に必要な情報を提供できます。

ただし、人による確認は、定期的なテストや重大なリスクに対する独立した保護対策の代わりにはなりません。

対応方法は実際の危険度によって異なる

すべてのアラートに同じ対応が必要なわけではありません。安全ヘルメットを着用していない作業員には注意喚起と是正が必要になる一方、天井クレーンで吊り上げられている荷の下に人がいる場合は、直ちに保護措置を講じる必要があります。

AIは事象の分類を支援できますが、適切な対応方法はEHS（環境・労働安全衛生）の手順、設備の状態、現場の状況にも左右されます。

差し迫った危険に対しては、管理者が通知を時間内に確認できるかどうかに全面的に依存しない、適切な警報・保護の仕組みが必要です。

人間は安全管理の継続的な改善に責任を持つ

作業員が危険区域から離れれば、アラートへの対応は完了する場合があります。しかし、同じような状況が繰り返し発生する場合、その原因は工場のレイアウト、作業手順、生産体制などにある可能性があります。

AIは検知した事象に関するデータを提供しますが、EHS部門はその原因を分析し、是正措置を選択し、実施後の効果を評価する必要があります。

これは、AIによる検知の自動化だけでは完全に代替できない、人間の重要な役割です。

AIカメラシステムにおけるHuman-in-the-Loopの仕組み

安全監視におけるHuman-in-the-Loopのプロセスは、次のステップで構成できます。

• 検知： AIカメラが映像を分析し、設定された条件に基づいて異常な事象を認識します。

• アラート： システムが事象を記録し、担当者または担当部門に通知を送信します。

• 確認： 担当者が映像を確認し、状況の背景を評価して、実際の危険度を判断します。

• 対応： 現場の担当者が、注意喚起、作業方法の調整、緊急対応手順の実施など、適切な措置を講じます。

• 追跡と改善： 対応結果を記録し、効果の評価、原因分析、同様の事象の再発防止に活用します。

このプロセスにより、企業は自動検知と実際の対応責任を結び付けることができます。EHS部門は単にアラートを受信するだけでなく、事象の発生から解決までを追跡するための情報を得られます。

リスクの程度によっては、人間による確認を待たずに、特定の警報や保護措置を自動的に実行することも可能です。

工場の安全監視におけるHuman-in-the-Loopの活用例

天井クレーンの危険区域監視

天井クレーンを使用する工場では、吊り荷の位置に応じて危険区域が絶えず変化する場合があります。特に設備や工場の構造物によって視界が遮られる場合、オペレーターが吊り荷の下の区域全体を常に確認できるとは限りません。

AIカメラは、危険区域に人が入ったことを検知し、アラートを生成することを支援します。一方、担当者は事象を評価し、原因を特定し、再発を防ぐために必要な対策を実施します。

事故につながる差し迫った危険がある場合、保護システムは管理者によるアラートの確認を待つのではなく、迅速に対応できるよう設計する必要があります。

個人用保護具の着用監視

AI Visionは、生産エリアで安全ヘルメットを着用していない作業員や、必要な個人用保護具（PPE）を使用していない作業員の検知を支援できます。しかし、映像だけでは実際の作業条件を完全に把握できない場合があります。

担当者は事象を確認し、必要に応じて注意喚起や是正を求める必要があります。同じエリアで違反が繰り返し発生する場合、EHS部門は安全標識、作業手順、安全教育の内容を見直すことができます。

フォークリフトと歩行者の接触リスク監視

倉庫では、AIカメラを活用して、人と車両の動線が交差する可能性のある区域を監視できます。システムは、事前に設定された条件に該当する状況を検知するとアラートを生成します。

ただし、原因を特定するには、移動方向、運転者の視界、構内交通の運用方法なども考慮する必要があります。

同じ場所でアラートが繰り返し発生する場合、単にアラートの数を増やすのではなく、動線を変更したり、歩行者と車両を分離する対策を追加したりすることが、長期的な解決策となる可能性があります。

Human-in-the-Loopを導入する際の重要なポイント

Human-in-the-Loopは、単にアラート対応プロセスに人を追加することではありません。このモデルを効果的に運用するためには、AIと担当者の責任、権限、連携方法を明確にする必要があります。

まず、アラートをリスクの程度に応じて分類することが重要です。差し迫った危険がある状況には適切な対応の仕組みを設ける一方、緊急性の低い事象は担当者に通知し、確認と対応を行うことができます。

また、AIの結果に全面的に依存することも避ける必要があります。監視担当者はシステムの限界を理解し、アラートを評価するための十分な情報を持ち、認識結果が実際の状況と一致しない場合の対応方法を把握しておく必要があります。

さらに、確認と対応の結果を継続的な改善に活用することが重要です。システムが頻繁に誤報を生成したり、特定のリスクが繰り返し発生したりする場合、企業は監視設定、運用手順、既存の安全対策を再評価する必要があります。

Human-in-the-Loopの有効性は、アラートの受信確認までの時間、確認率、現場での対応時間、誤報率、是正措置後の事象の再発状況などによって評価できます。

EYEFIREはAIと人間を組み合わせた安全監視をどのように支援するのか？

EYEFIREは、産業環境における異常な状況の早期発見を支援するAIカメラおよびAI Visionソリューションを開発しています。従来のCCTVのように映像を記録するだけでなく、Computer Visionを活用して映像を分析し、設定された条件に基づいてアラートを生成します。

EYEFIREのアプリケーションには、危険区域への立ち入り検知、個人用保護具の着用監視、産業設備の稼働に関連するリスクの認識などがあります。

その一例が、鋼材コイル加工工場における天井クレーンの安全監視用AIカメラソリューションです。このシステムでは、異なる方向に配置された4台のカメラが天井クレーンとともに移動し、吊り荷の下の区域を監視します。映像データはAI Hubに送信されて分析され、設定された条件に従って危険区域内に人が検知された場合にアラートが生成されます。

このアプリケーションでは、AI Visionが継続的な監視の難しい場所での危険検知を支援します。一方、人間は安全な操業体制の構築、事象の原因評価、安全対策の改善において、引き続き重要な役割を担います。

これこそがHuman-in-the-Loopのアプローチです。AIが事象の検知と情報提供を支援し、人間がその情報を活用して適切な判断と行動を行います。

AIカメラを導入する際、企業は最初の段階から、誰がアラートを受信するのか、現場でどのように対応するのか、結果をどのように評価するのかを明確にする必要があります。これにより、監視技術は単なる事象検知ツールではなく、安全管理活動の一部として機能するようになります。

まとめ

AI Visionは、企業の監視能力を拡張し、異常な状況をより早く検知するとともに、人が継続的にカメラ映像を確認することへの依存を軽減します。しかし、リスクに関する情報が適切な行動につながって初めて、技術は真の価値を生み出します。

Human-in-the-Loopは、AIの分析能力と人間の経験、専門知識、責任を組み合わせるアプローチです。この組み合わせは、アラートへの対応を支援するだけでなく、企業が原因を特定し、安全管理活動を継続的に改善することにも役立ちます。

安全監視におけるAIの目的は、人間に取って代わることではありません。人間がリスクをより早く発見し、十分な根拠に基づいて判断し、より効果的に行動できるよう支援することです。