У кампаніі можа быць адзін дагавор з пастаўшчыком AI і дзясяткі спосабаў выкарыстання яго сэрвісу. Хтосьці рыхтуе чарнавікі лістоў, хтосьці загружае дагаворы, а хтосьці падключыў мадэль да сістэмы заявак. У плацежнай справаздачы гэта адзін радок. Паводле складу даных, паўнамоцтваў і наступстваў памылкі — розныя працэсы.
Каб вырашыць, што развіваць, абмяжоўваць ці адключаць, патрэбны рэестр фактычнага выкарыстання AI. Яго карыснасць вызначаецца тым, ці можна паводле запісу знайсці ўладальніка працэсу, зразумець рух даных і бяспечна спыніць працу сістэмы.
Што лічыць асобнай сістэмай
Пачніце з аперацыі, якая выконваецца. «Выкарыстоўваем моўную мадэль» — занадта шырока. «Рыхтуем адказ на зварот з сэрвіснай сістэмы; супрацоўнік правярае і адпраўляе» — ужо дазваляе абмяркоўваць якасць і адказнасць.
Раздзяляйце запісы, калі змяняюцца дазволеныя даныя, паўнамоцтвы ці адказны за вынік. Чарнавік адказу і аўтаматычнае змяненне кліенцкага тарыфу павінны праходзіць асобную ацэнку, нават калі працуюць на адной мадэлі.
Агульныя кампаненты пры гэтым варта звязваць: адна платформа, некалькі сцэнарыяў, агульны дагавор. Так рэестр дапамагае ўбачыць залежнасці і не прымушае некалькі разоў улічваць адзін артыкул інфраструктурных выдаткаў.
Інвентарызацыя AI-сістэм і прызначэнне адказных прадугледжаныя ў NIST AI RMF Playbook, GOVERN 1.6. Прапанаваная ніжэй картка — працоўны фармат для невялікай каманды, а не абавязковая форма NIST.
Мінімальная картка, на падставе якой можна прыняць рашэнне
Ніжэй — умоўны прыклад для памочніка службы падтрымкі. Ён апісвае выдуманую канфігурацыю.
| Поле | Змест запісу |
|---|---|
| Аперацыя і вынік | Падрыхтаваць чарнавік адказу на зарэгістраваны зварот |
| Уладальнік працэсу | Кіраўнік падтрымкі; зацвярджае правілы апрацоўкі |
| Тэхнічны адказны | Каманда сэрвіснай платформы; адказвае за інтэграцыю і адключэнне |
| Карыстальнікі | Супрацоўнікі першай лініі |
| Уваходныя даныя | Тэкст звароту і дазволеныя артыкулы базы ведаў |
| Забароненыя даныя | Плацежныя рэквізіты і ўкладанні па-за ўзгодненым пералікам |
| Паўнамоцтвы | Чытанне звароту і стварэнне чарнавіка; адпраўка недаступная |
| Праверка выніку | Супрацоўнік звярае ўмовы адказу і крыніцу |
| Эканоміка | Агульны дагавор платформы і асобна вымяранае спажыванне сцэнарыя |
| Аварыйны рэжым | Генерацыя адключаецца; звароты працягваюць апрацоўвацца ўручную |
Да карткі карысна прывязаць версію канфігурацыі, звесткі пра захоўванне даных і спасылку на журнал змяненняў. Сакрэты, ключы доступу і рэальныя кліенцкія паведамленні ў рэестр не пераносяць. Каб выявіць залежнасць, дастаткова пазначыць яе тып і ўладальніка.
Як знайсці тое, чаго няма ў афіцыйным спісе
Супастаўце тры крыніцы: закупкі, тэхнічныя падключэнні і размову з выканаўцамі працэсу. Ніводная з іх паасобку не паказвае поўнай карціны.
У закупках бачныя ліцэнзіі і рахункі, але можа адсутнічаць эксперымент, аплачаны супрацоўнікам. У тэхнічных наладах бачныя інтэграцыі і дазволы, але ручная загрузка файлаў у старонні сэрвіс можа адбывацца па-за гэтымі падключэннямі. Выканаўца ведае рэальны маршрут задачы, уключаючы капіяванне паміж вокнамі і дадатковую праверку адказу.
Папрасіце паказаць канкрэтную аперацыю на абязлічаным прыкладзе: адкуль з'яўляюцца ўваходныя даныя, куды ідзе вынік, што чалавек выпраўляе і што робіць пры адмове сэрвісу. Такі праход выяўляе ўмовы, якія губляюцца ў адказе «мы толькі пішам тэксты».
Выяўлены інструмент спачатку апісваюць і ацэньваюць. Чынныя абмежаванні бяспекі захоўваюцца, але інвентарызацыя не павінна ператварацца ў збор асабістай перапіскі ці схаванае назіранне за супрацоўнікамі. Межы праверкі, доступ да вынікаў і дапушчальныя спосабы збору звестак варта ўзгадніць загадзя.
Як вырашаць лёс знойдзеных сцэнарыяў
Невядомы ўладальнік — нагода прыпыніць пашырэнне паўнамоцтваў. Няяснае паходжанне даных — нагода разабрацца з доступам да новых загрузак. Адсутнасць пацверджанай карысці — нагода вымераць вынік на абмежаваным аб'ёме.
Два вонкава падобныя інструменты не абавязкова дублююць адзін аднаго. У іх могуць адрознівацца патрабаванні да даных, даступнасць ці абавязковыя інтэграцыі. Рашэнне аб аб'яднанні прымаюць пасля праверкі гэтых адрозненняў.
Для кожнага сцэнарыя зафіксуйце адзін найбліжэйшы крок: захаваць, дапрацаваць, аб'яднаць ці вывесці з эксплуатацыі. У кроку павінны быць выканаўца і ўмова завяршэння, якую можна праверыць. Фармулёўка «працягнуць вывучэнне AI» пакідае запіс без руху.
Адключэнне таксама патрабуе плана
Выдаленне ўліковага запісу можа пакінуць дзейны токен у інтэграцыі, прывесці да страты гісторыі апрацоўкі ці парушыць залежны працэс. Перад адключэннем праверце, дзе выкарыстоўваюцца вынікі сістэмы, хто захоўвае патрэбныя матэрыялы і як выконваецца аперацыя без яе.
У працоўным плане вываду павінны прысутнічаць адкліканне доступу, спыненне інтэграцый, рашэнне пра захаванне і выдаленне даных, спыненне аплаты і праверка рэзервовага працэсу. Гэтыя дзеянні выконваюць з улікам дагавораў і прымяняльных патрабаванняў да захоўвання.
Рэестр абнаўляюць пры падключэнні новай крыніцы, пашырэнні дзеянняў, змене пастаўшчыка і ўладальніка. Перыядычная зверка з аплатамі дапамагае выяўляць забытыя сэрвісы, але не замяняе абнаўленняў паводле падзей.
Тэму назапашвання разрозненых AI-інструментаў разглядае Вадзім Владымцев у артыкуле пра AI-пілоты ўнутры кампаніі. Практычны вынік інвентарызацыі — набор рашэнняў па канкрэтных працэсах. Колькасць запоўненых радкоў сама па сабе нічога не паляпшае.
Калі сістэма ўжо выконвае дзеянні, наступная праверка — яе доступ да працоўных інструментаў.