Карыстальнік адпраўляе дакумент, сістэма прымае запыт, а апрацоўка займае некалькі хвілін. За гэты час можа абарвацца злучэнне, скончыцца ліміт выканання або паўторна прыйсці паведамленне з чаргі. Архітэктура павінна захаваць адно зразумелае заданне і карэктна давесці яго да выніку.

Для такіх аперацый варта раздзяляць прыём запыту, выкананне і атрыманне выніку. Выбар serverless-платформы не адмяняе стану задання, абмежаванняў рэсурсаў і аднаўлення пасля збояў.

Тэма разгортвання праграм у бессервернай архітэктуры разглядалася ў працы Лаппо і Владымцева. Ніжэй — прыкладная схема для AI-апрацоўкі з працяглымі або паўтаральнымі крокамі.

Выбіраць асяроддзе пад працягласць аперацыі

Ліміты канкрэтнага сэрвісу правяраюць да рэалізацыі. Напрыклад, AWS Lambda дапускае час выканання да 900 секунд. Гэта характарыстыка дадзенага сэрвісу, а не ўсіх бессерверных платформаў.

Доўгая апрацоўка, загрузка вялікай мадэлі і патрабаванні да абсталявання могуць запатрабаваць іншага тыпу выканаўцы: фонавага кантэйнера, пакетнага задання або пастаянна працуючага сэрвісу. Прыём запыту пры гэтым можа заставацца кароткай функцыяй.

Асобна ўлічвайце даступнасць выбранага пастаўшчыка, дагаворныя ўмовы і дазволенае месца апрацоўкі даных. Тэхнічнае апісанне сэрвісу не пацвярджае магчымасці яго выкарыстання любой арганізацыяй.

Раздзяліць жыццёвы цыкл задання

У прапанаванай схеме ўваходны сэрвіс правярае карыстальніка і фармат, захоўвае заданне і вяртае яго ідэнтыфікатар. Выканаўца забірае працу з чаргі, запісвае прамежкавыя станы і вынік. Карыстальнік атрымлівае вынік праз праверку статусу або апавяшчэнне.

Карысныя станы — «прынята», «чакае выканання», «выконваецца», «завершана», «патрабуе разбору» і «скасавана». Паспяховы прыём запыту азначае стварэнне задання, але не выкананне бізнес-аперацыі.

Запіс задання і пастаноўку паведамлення ў чаргу трэба ўзгадніць. Адзін з варыянтаў — transactional outbox: запіс задання і будучага паведамлення ажыццяўляецца ў адной транзакцыі базы даных, а асобны працэс дастаўляе паведамленне ў чаргу. Гэта памяншае рызыку страціць працу паміж двума незвязанымі дзеяннямі. Паўторную дастаўку такая схема ўсё роўна павінна пераносіць карэктна.

Паўтор паведамлення не павінен ствараць паўторнае дзеянне

AWS апісвае апрацоўку паведамленняў SQS праз Lambda як дастаўку як мінімум адзін раз: магчымыя паўторы, апрацоўшчыкі павінны іх улічваць. Аналагічныя гарантыі заўсёды правяраюць для выбранай звязкі сэрвісаў.

Ключ ідэмпатэнтнасці звязваюць з карыстальнікам або арганізацыяй і лагічнай аперацыяй. Захоўваюць таксама адбітак уваходу: адзін ключ са змененым змесцівам нельга моўчкі прыняць за папярэдні запыт.

Але аднаго сцяга ў лакальнай базе недастаткова для знешняга дзеяння. Калі выканаўца запісаў вынік у староннюю сістэму і ўпаў да захавання лакальнага пацвярджэння, паўтор здольны стварыць дублікат. Патрэбныя ключ аперацыі, які падтрымліваецца знешняй сістэмай, праверка яе фактычнага стану або працэдура зверкі і ручнога разбору.

Момант збою Якое пытанне трэба вырашыць
Да запісу задання Ці можа кліент бяспечна паўтарыць запыт
Пасля запісу, да чаргі Хто гарантуе наступную пастаноўку ў чаргу
Падчас вылічэння Адкуль працягваць і ці дапушчальны паўтор вылічэнняў
Пасля знешняга дзеяння, да пацвярджэння Як даведацца, ці было дзеянне выкананае
Пасля гатовага выніку Як вярнуць той жа вынік пры паўторным запыце

Абмежаваць нагрузку і кошт паўтораў

Вызначце максімальную паралельнасць, абмежаванні на памер уваходу і колькасць паўторных спроб. Агульны бюджэт задання павінен улічваць усе яго крокі, звароты да мадэлі і паўторныя выкананні.

Ліміт чакання карыстальніка, ліміт выканаўцы і час схавання паведамлення ў чарзе выконваюць розныя функцыі. Іх нельга выбраць адным выпадковым значэннем. Напрыклад, занадта ранняя паўторная выдача паведамлення здольная запусціць другога выканаўцу, пакуль першы яшчэ працуе.

Пасля вычарпання дапушчальных спроб заданне накіроўваюць у асобную чаргу разбору. Захоўвайце прычыну, апошнюю пацверджаную стадыю і спасылку на зыходны запыт. Паўторны запуск з гэтай чаргі праходзіць тыя ж праверкі ідэмпатэнтнасці.

Скасаванне таксама мае межы

Націсканне «Скасаваць» можа спыніць яшчэ не пачатую працу. Для аперацыі, якая ўжо выконваецца, трэба вызначыць пункты, у якіх выканаўца правярае запыт скасавання.

Калі знешняе дзеянне завяршылася, нельга паказаць, што яго не было. Спатрэбіцца прадугледжаная кампенсавальная аперацыя або паведамленне пра немагчымасць аўтаматычнага скасавання. Напрыклад, спыненне чакання ў браўзеры не скасоўвае ўжо запісаны дакумент.

Раздзяляйце «запыт скасавання прыняты» і «выкананне спыненае». Гэта такія ж розныя станы, як прыём і завяршэнне задання.

Што правяраць перад запускам

Выпрабуйце абрыў на кожным значным пераходзе, паўторнае паведамленне, затрымку чаргі, адмову пастаўшчыка мадэлі і адначасовы запуск двух выканаўцаў. Для знешніх дзеянняў праверце сцэнарый нявызначанага выніку, калі адказ згубіўся пасля выканання.

Назіральнасць павінна звязваць запыт, заданне, спробу, зварот да мадэлі і знешні вынік. Карыстальнік бачыць бізнес-статус; каманда — тэхнічныя дэталі, неабходныя для аднаўлення, з абмежаваннем доступу да адчувальных даных.

Пра выбар ступені аўтаномнасці карысна прачытаць асобна ў артыкуле «AI-агент, чат-бот або workflow automation». Для апрацоўкі з вядомымі крокамі яўны жыццёвы цыкл задання часта дазваляе дакладней вызначыць паводзіны пры збоі.