Səhiyyə sahəsində getdikcə daha geniş yayılan süni intellekt sistemlərinin etibarlılığı müzakirə mövzusu olaraq qalır. Kompüter mühəndisliyi kafedrasının müəllimi, dosent Damla Övək Baydar yüksək dəqiqlik göstəricilərinin öz-özlüyündə etibarlılıq demək olmadığını bildirərək süni intellektin qərarlarını hansı məlumatlara əsaslandırdığının da araşdırılmasının vacibliyini vurğulayıb.

Aztibb.az "CNN Türk"ə istinadən yazır ki, səhiyyə xidmətlərində süni intellekt texnologiyalarının istifadəsi artdıqca mütəxəssislər bu sistemlərin hazırladığı nəticələrin yalnız dəqiqlik göstəricilərinə əsasən qiymətləndirilməməli olduğuna diqqət çəkirlər.

Biruni Universitetinin Mühəndislik və Təbiət Elmləri fakültəsinin Kompüter mühəndisliyi kafedrasının müəllimi, dosent Damla Övək Baydar süni intellektin düzgün proqnozlar versə belə, bu nəticələrə klinik baxımdan əhəmiyyət daşımayan məlumatlar əsasında gələ biləcəyi barədə xəbərdarlıq edib.

Baydar bildirib ki, süni intellekt modellərinin qərarvermə proseslərinin anlaşılan və yoxlanıla bilən olması pasiyentlərin təhlükəsizliyi baxımından mühüm əhəmiyyət daşıyır.

Düzgün proqnozla etibarlı proqnoz eyni şey deyil

Süni intellektin tibbi görüntüləmə, xəstəlik risklərinin müəyyənləşdirilməsi, genomik təhlillər və klinik qərarların qəbuluna dəstək sistemləri kimi bir çox sahədə istifadə olunduğunu bildirən Baydar bu texnologiyaların səhiyyə mütəxəssislərinə mühüm töhfələr verə bildiyini deyib.

Bununla belə, sistemlərin uğurunun, əsasən, proqnozların dəqiqliyi ilə qiymətləndirildiyinə diqqət çəkən Baydar fikirlərini belə ifadə edib:

“Bu inkişaflar çox vaxt modellərin nə dərəcədə yüksək dəqiqliklə proqnoz verməsi əsasında qiymətləndirilir. Lakin insan həyatına birbaşa təsir edən səhiyyə kimi bir sahədə yalnız düzgün nəticəyə çatmaq kifayət etməyə bilər. Sistemin bu nəticəyə necə gəldiyini anlamaq da vacibdir. Çünki düzgün proqnozla etibarlı proqnoz həmişə eyni şey deyil”.

Süni intellektin “qara qutu” probleminə diqqət çəkib

Dərin öyrənmə modellərinin mürəkkəb məlumat əlaqələrini təhlil edə bildiyini, lakin onların qərarlarını hansı məlumatlara əsaslanaraq formalaşdırdıqlarının hər zaman aydın olmadığını bildirən Baydar bu vəziyyətin “qara qutu” problemi adlandırıldığını qeyd edib.

Xüsusilə genetik tədqiqatlarda, dərmanların kəşfində və xəstəliklərin araşdırılmasında istifadə olunan modellərin qərarvermə proseslərinin izah edilə bilməsinin vacibliyini vurğulayan Baydar deyib:

“Model yüksək dəqiqliklə proqnoz verə bilər. Lakin bu proqnozun bioloji və ya klinik baxımdan əhəmiyyətli bir göstəriciyə, yoxsa məlumatlardakı təsadüfi və ya yanıldıcı qanunauyğunluğa əsaslandığını bilmiriksə, nəticəyə etibar etmək çətinləşir”.

Baydar bildirib ki, süni intellekt sisteminin tibbi görüntüdə risk aşkarlaması özlüyündə kifayət deyil. Sistemin görüntünün hansı hissəsinə diqqət yetirdiyi və pasiyentə aid hansı məlumatları nəzərə aldığı da məlum olmalıdır.

Düzgün cavabla düzgün səbəbə əsaslanan cavab eyni şey deyil

Süni intellekt sistemlərinin bəzi hallarda yanıldıcı məlumatlar əsasında düzgün nəticələr əldə edə biləcəyini bildirən Baydar bunun xüsusilə müxtəlif pasiyent qruplarında etibarlılıq problemlərinə səbəb ola biləcəyini qeyd edib.

Təlim məlumatlarında gözlənilməz xüsusiyyətlərin, tibbi cihazlar arasındakı fərqlərin və müəyyən pasiyent qruplarına xas qərəzliliklərin modellərin proqnozlarına təsir göstərə biləcəyini deyən Baydar belə qiymətləndirmə aparıb:

“Süni intellekt modeli sınaqlar zamanı yüksək dəqiqlik göstərə bilər. Lakin qərarını klinik baxımdan əhəmiyyət daşımayan xüsusiyyətlərə əsaslandırırsa, müxtəlif pasiyent qruplarında və ya fərqli şəraitdə etibarlı nəticələr verməyə bilər”.

Baydar bu səbəbdən süni intellekt sistemlərinin yalnız uğurlu nəticələr verməsinin deyil, həmin nəticələrə hansı əsaslarla gəldiyinin də araşdırılmalı olduğunu vurğulayıb.

Süni intellektin izahları da yoxlanılmalıdır

Süni intellekt modellərinin qərarlarını izah edə bilməsinin həkimlər üçün əhəmiyyətli olduğunu bildirən Baydar bu izahların hər zaman həqiqi bioloji və ya klinik səbəbləri üzə çıxarmaya biləcəyi barədə xəbərdarlıq edib.

Baydar deyib: “Modelə hansı məlumatların təsir etdiyini vizuallaşdırmaq xəstəliyin səbəbinin müəyyən edildiyi anlamına gəlmir”.

İzah edilə bilən süni intellekt metodlarının nəticələrinin klinik biliklər, bioloji sübutlar və müstəqil yoxlamalarla təsdiqlənməli olduğunu bildirən Baydar bu yanaşmanın həkimlərə süni intellektin dəstəyi ilə hazırlanmış tövsiyələri daha düzgün qiymətləndirməyə kömək edə biləcəyini söyləyib.

Elmi tədqiqatlar üçün yeni imkanlar yarada bilər

İzah edilə bilən süni intellektin yalnız etibarlılıq baxımından deyil, elmi tədqiqatlar üçün də mühüm imkanlar yaratdığını bildirən Baydar modellərin öyrəndiyi qanunauyğunluqların araşdırılması ilə əvvəllər diqqətdən kənarda qalmış bioloji əlaqələrin öyrənilə biləcəyini qeyd edib.

Baydar deyib: “Modelə yalnız proqnoz verən bir mexanizm kimi yanaşmaq əvəzinə, onun hansı qanunauyğunluqları öyrəndiyini anlamağa çalışsaq, həm modeli təkmilləşdirə, həm də biologiya haqqında yeni suallar verə bilərik”.

“Süni intellekt həkimi əvəz edən sistem olmamalıdır”

Səhiyyə sahəsində süni intellektin müstəqil qərarvermə mexanizmi kimi deyil, mütəxəssislərin qiymətləndirmələrini dəstəkləyən vasitə kimi istifadə edilməli olduğunu vurğulayan Baydar insan nəzarətinin əhəmiyyətinə diqqət çəkib.

Baydar bildirib: “Məqsəd yalnız yüksək performanslı modellər hazırlamaq deyil, etibarlı, yoxlanıla bilən və insan mütəxəssislərinin bilik və təcrübəsi ilə birlikdə istifadə oluna bilən sistemlər yaratmaqdır”.

“Etibarlı süni intellekt sərhədləri məlum olan süni intellektdir”

Səhiyyədə süni intellektin gələcəyinin yalnız yüksək dəqiqlik göstəricilərindən asılı olmadığını bildirən Baydar sistemlərin hansı şəraitdə uğursuz ola biləcəyinin də bilinməli olduğunu deyib.

Süni intellekt modellərinin hansı məlumatlarla öyrədildiyinin, hansı pasiyent qruplarında səhvlərə yol verə biləcəyinin və qərarlarını hansı xüsusiyyətlərə əsaslandırdığının araşdırılmasının vacibliyini vurğulayan Baydar fikirlərini belə yekunlaşdırıb:

“Səhiyyədə süni intellektin etibarlılığı yalnız düzgün proqnozlar verən deyil, həm də məhdudiyyətləri məlum olan və qərarları tənqidi şəkildə qiymətləndirilə bilən sistemlərin hazırlanmasından asılıdır”.