Människa-i-slingan

Definition

Human-in-the-loop (HITL) hänvisar till system där mänskligt omdöme integreras i AI-arbetsflöden för uppgifter som utbildning, utvärdering eller beslutsfattande.

Syfte

Syftet är att kombinera mänsklig expertis med AI-effektivitet. Det säkerställer kvalitet, etisk tillsyn och säkerhet i känsliga applikationer.

Betydelse

• Minskar fel inom högriskområden (t.ex. hälso- och sjukvård, försvar).
• Förbättrar träningen genom mänsklig feedback.
• Ger ansvarsskyldighet i automatiserade system.
• Långsammare och dyrare jämfört med full automatisering.

Så fungerar det

1. Definiera områden där mänsklig tillsyn krävs.
2. Samla in AI-utdata eller förslag.
3. Människor validerar, korrigerar eller ger feedback.
4. Feedback integreras för att omskola eller förfina modeller.
5. Övervaka systemets prestanda med kontinuerlig mänsklig granskning.

Exempel (verkliga världen)

• Innehållsmoderering: människor granskar flaggade inlägg från AI.
• Medicinsk AI: läkare validerar AI-genererade diagnoser.
• Förstärkningsinlärning från mänsklig feedback (RLHF): tränar språkmodeller som ChatGPT.

Referenser / Vidare läsning

• Amershi et al. ”Makt åt folket: Människans roll i interaktiv maskininlärning.” AI Magazine.
• NIST AI-riskhanteringsramverk.
• IEEE-standarder för Human-in-the-Loop-system.
• Att förstå människan i loopen