AI operāciju zālē – vai mākslīgais intelekts patiešām padara ķirurģiju drošāku?
Mākslīgais intelekts operāciju zālē pēdējos gados ir ieviests ar lieliem solījumiem – lielāka precizitāte, mazākas kļūdas un drošāki rezultāti pacientiem. Tomēr realitāte izrādās sarežģītāka.
Kā raksta VICE, viena no apspriestākajām sistēmām ir TruDi navigācijas sistēma, kas tiek izmantota ķirurģijā, īpaši galvas un deguna blakusdobumu operācijās. AI tika integrēts sistēmas navigācijas mehānismā ar mērķi palīdzēt ķirurgiem precīzāk orientēties sarežģītās anatomiskās struktūrās.
Taču līdzšinējais sniegums rada bažas.
Kas notika pēc AI ieviešanas?
Pirms mākslīgā intelekta integrācijas ASV Pārtikas un zāļu pārvalde (FDA) bija reģistrējusi:
- 7 darbības traucējumus,
- 1 traumas gadījumu.
Pēc AI atjauninājuma ieviešanas līdz 2025. gada beigām tika reģistrēti:
- vismaz 100 darbības traucējumi,
- 10 traumu gadījumi.
Daļā ziņojumu tika norādīts, ka sistēma kļūdaini informējusi ķirurgus par instrumentu atrašanās vietu, operējot ļoti jutīgās zonās – piemēram, miega artērijas tuvumā vai galvaskausa pamatnē.
Reāli tiesu procesi
Divi gadījumi Teksasā nonākuši tiesā pēc tam, kad pacienti pēc šķietami rutīniskām procedūrām piedzīvoja insultu. Vienā gadījumā sievietei bija nepieciešama galvaskausa daļas noņemšana, lai mazinātu smadzeņu pietūkumu.
Prasībās tiek apgalvots, ka AI komponents padarījis sistēmu mazāk uzticamu. Ražotāji savukārt norāda, ka FDA ziņojumi nepierāda tiešu vainu.
Tas atklāj plašāku problēmu – kā novērtēt atbildību, ja sistēmā ir iesaistīts AI?
AI medicīnā: plašāks konteksts
TruDi nav vienīgais gadījums. FDA līdz šim ir apstiprinājusi vairāk nekā 1300 medicīniskās ierīces ar AI funkcionalitāti.
Turklāt akadēmisks pārskats, ko veica:
- Johns Hopkins University
- Georgetown University
- Yale University
atklāja, ka 60 AI autorizētas ierīces bijušas saistītas ar 182 atsaukumiem, un gandrīz puse no tiem notika gada laikā pēc apstiprināšanas.
Papildu ziņojumi liecina par:
- pirmsdzemdību ultraskaņas programmatūru, kas kļūdaini identificējusi augļa anatomiju,
- sirds monitoriem, kas nav noteikuši ritma traucējumus.
Kāpēc AI rada papildu riskus?
AI sistēmas:
- balstās uz datiem un algoritmiem,
- nepārtraukti attīstās,
- var mainīt savu uzvedību ar atjauninājumiem.
Tas nozīmē, ka regulators apstiprina konkrētu versiju, bet programmatūra laika gaitā var kļūt citāda. Medicīnā, kur kļūdu cena ir cilvēka dzīvība, šāds dinamisms rada būtiskus riskus.
Slimnīcas un uzraugošās iestādes saskaras ar izaicinājumu – kā kontrolēt tehnoloģiju, kas attīstās ātrāk nekā normatīvie akti.
Vai AI operāciju zālē ir slikta ideja?
Atbilde nav melnbalta.
AI var:
- palīdzēt analizēt datus,
- uzlabot attēlu kvalitāti,
- atbalstīt lēmumu pieņemšanu.
Taču, ja sistēma kļūdaini norāda anatomiskas struktūras vai rada maldinošu pārliecību par precizitāti, sekas var būt katastrofālas.
Medicīnā uzticamība un stabilitāte ir svarīgākas par inovācijas ātrumu.
Secinājums
AI ienākšana operāciju zālē ir neizbēgama. Taču līdzšinējā pieredze rāda, ka entuziasms nedrīkst apsteigt drošību.
