У AI-працэсу могуць быць уладальнік ліцэнзіі, адміністратар платформы і чалавек, які напісаў першы промпт. Ніводная з гэтых роляў аўтаматычна не адказвае за наступствы працоўнага рашэння.

Разабрацца з адказнасцю прасцей на падзеях. Хто дазваляе падключыць новыя даныя? Хто зацвярджае змену правілаў адказу? Хто спыняе апрацоўку пасля памылкі? Хто вызначае, якія вынікі трэба перагледзець? Калі адказы разыходзяцца, праблема ўжо існуе, нават пакуль сістэма працуе штатна.

NIST AI RMF Playbook асобна разглядае дакументаванне адказнасці ў GOVERN 2.1 і навучанне супрацоўнікаў з улікам іх абавязкаў у GOVERN 2.2. Ніжэй — прыклад размеркавання рашэнняў, які можна адаптаваць да канкрэтнай арганізацыі.

Прызначаць адказнасць за аперацыю

Уладальнік працэсу вызначае дапушчальны вынік і межы прымянення. Для апрацоўкі зваротаў гэта можа быць кіраўнік падтрымкі. Для ўнутранай аналітыкі — кіраўнік функцыі, якая выкарыстоўвае высновы пры прыняцці рашэнняў.

Тэхнічная каманда адказвае за рэалізацыю ўзгодненых абмежаванняў, назіральнасць і аднаўленне. Уладальнік даных вызначае прызначэнне крыніцы і правілы яе выкарыстання. Спецыялісты па бяспецы і іншых профільных рызыках разглядаюць змены ў сваёй вобласці кампетэнцыі.

У невялікай кампаніі адзін чалавек можа сумяшчаць ролі. Сумяшчэнне варта запісаць яўна, захаваўшы незалежную праверку там, дзе яе патрабуюць наступствы памылкі. Назва пасады CAIO сама па сабе не вырашае гэтае пытанне.

Табліца рашэнняў замест агульнай фразы «кантроль чалавека»

Разгледзім умоўнага памочніка, які рыхтуе адказы кліентам і перадае іх супрацоўніку для пацвярджэння.

Падзея Хто прымае рашэнне Што патрабуецца ад астатніх
Змяніўся дапушчальны сэнс адказу Уладальнік працэсу Каманда абнаўляе правілы і запускае ўзгодненыя праверкі
Падключаецца новая крыніца Уладальнік даных і ўпаўнаважаны ўладальнік працэсу Профільныя спецыялісты ацэньваюць доступ і абмежаванні
Прапануецца аўтаматычная адпраўка Упаўнаважаны ўладальнік рызыкі і працэсу Тэхнічная каманда паказвае праверкі, ліміты і магчымасць спынення
Выяўлены небяспечны адказ Дзяжурны спыняе сцэнарый паводле загадзя нададзеных паўнамоцтваў Уладальнік працэсу вызначае аб'ём праверкі ўжо апрацаваных выпадкаў
Выпускаецца выпраўленне пасля інцыдэнту Прызначаны адказны за вяртанне ў працу Каманда падае вынікі паўторнай праверкі і план назірання

Для аднаго рашэння дапушчальныя некалькі ўзгадненняў, але павінен быць зразумелы парадак іх атрымання. Фармулёўка «ўсе ўзгаднілі» без канкрэтных імёнаў і версіі змены непрыдатная для разбору інцыдэнту.

Даць правяральніку магчымасць сапраўды праверыць

Супрацоўнік павінен бачыць зыходныя даныя, абмежаванні і падставу прапановы. Калі інтэрфейс паказвае толькі гладкі адказ і кнопку пацвярджэння, ён не дае дастатковых умоў для змястоўнай праверкі.

Патрэбныя дзеянні «выправіць», «адхіліць» і «перадаць на разбор», а таксама доступ да звычайнага працоўнага працэсу. Растлумачце, што адбываецца пасля кожнага дзеяння і хто атрымлівае задачу. Адмова супрацоўніка прымаць сумнеўны адказ не павінна аўтаматычна лічыцца дрэннай прадукцыйнасцю.

Час праверкі ўключаюць у нагрузку і разлік эфекту. Калі норму апрацоўкі павялічылі так, што прачытаць крыніцу ўжо немагчыма, кантроль становіцца фармальным незалежна ад колькасці інструкцый.

Навучаць праз сітуацыі з працы

Курс па складанні запытаў не правярае гатоўнасць кіраваць працэсам. Для аператара важней выявіць супярэчнасць, карэктна абмежаваць уваходныя даныя і перадаць спрэчны выпадак. Для ўладальніка — прыняць рашэнне пра пашырэнне і ацаніць наступствы памылкі. Для тэхнічнай каманды — аднавіць апрацоўку без страты і паўторнага выканання заданняў.

Практычнае заданне можна пабудаваць на выдуманым звароце са састарэлай умовай у далучаным дакуменце. Памочнік прапануе адказ, які супярэчыць дзейнаму правілу. Аператар павінен знайсці разыходжанне, адмовіцца ад адпраўкі і зарэгістраваць праблему з патрэбнымі матэрыяламі.

Іншы сцэнарый — знешні дакумент з фразай, якая патрабуе змяніць правілы працы памочніка. Правяраецца, што супрацоўнік і сістэма разглядаюць яе як змест крыніцы і не прымаюць за распараджэнне ўладальніка працэсу.

Для кіраўніка карысны разбор заяўкі на новае паўнамоцтва: якія праверкі і абмежаванні патрэбныя да дазволу дзеяння. Для інжынера — вучэбны збой пасля знешняга запісу, калі адказ ад сістэмы не атрыманы і паўтор можа стварыць дубль.

Што захоўваць пасля навучання

Фіксуйце выкананы сцэнарый, дапушчаныя памылкі і ўмовы допуску да канкрэтнай аперацыі. Наведванне занятку не эквівалентнае паспяховаму выкананню задання. Пры змене паўнамоцтваў або інтэрфейсу правяраюць навыкі, якія змяніліся.

Асобна прызначце ўладальніка вучэбных прыкладаў. Інакш супрацоўнікі будуць асвойваць стары парадак перадачы задач пасля таго, як працоўная сістэма ўжо змянілася.

Абмеркаванне гібрыдных прафесійных роляў сустракаецца ў матэрыяле з экспертнымі каментарыямі. Для дзейнай каманды карысней пачаць з паўнамоцтваў і назіранага навыку, чым з перайменавання пасад.

Умовы самой перадачы задачы падрабязна разабраны ў артыкуле пра human handoff. Табліца адказнасці павінна тлумачыць, хто прымае перададзеную задачу і хто мае права вярнуць аўтаматызацыю ў працу.