Ekspertas apie DI atliktus „pabėgimus“: už pabėgusius gyvūnus ir jų padarytą žalą atsako savininkas

Tie, kas seka dirbtinio intelekto (DI) ir informacinių technologijų naujienas, jau turėjo girdėti apie šiemet įvykusius DI „pabėgimus“ – apie tai, kad iš bandymų aplinkos savarankiškai išsprūdo DI modeliai, šiemet pranešė bendrovės „Open AI“, „Anthropic“ ir „Meta“, o pavasarį dar nuskambėjo ir atvejis, kai DI agentas „OpenClaw“, vykdydamas privataus asmens nurodymą padaryti rezervaciją sporto klube, savarankiškai surado saugumo spragą sporto klubo rezervacijų sistemoje, ja pasinaudojęs ištrynė kito vartotojo rezervaciją ir vietoje jos įrašė savo užsakovo – IT istorijoje tai vadinama pirmąja žinoma autonomine dirbtinio intelekto (DI) kibernetine ataka.

Apie tai, ką visa tai reiškia, ir ar išaušo nauja (ne)saugumo era, portalas Lrytas kalbėjosi su dviem ekspertais – Vytauto Didžiojo universiteto Informatikos fakulteto dekanu, dirbtinio intelekto ir kalbos taikymų specialistu, profesoriumi Tomu Krilavičiumi ir su IT teise dirbančiu advokatu Andriumi Iškausku.

– Vertinant iš paskutinio pusmečio perspektyvų – kaip vertintumėte DI sukeliamų grėsmių lygį? Ar jis pasikeitė?

Prof. Tomas Krilavičius: – Nematau, kad kažkas būtų labai pasikeitę. Niekur nematau ir kažkokių didelių problemų. Taip, tobulesni įrankiai, žmonės elgiasi drąsiau, tad gali pridaryti daugiau nesąmonių. Bet kad patys modeliai kažkokių nesąmonių pridarytų, kad būtų kažkas ypatingai pasikeitę – ne, aš taip nemanau.

– O kaip su garsiaisiais „Open AI“, „Anthropic“ ir „Meta“ atvejais? Tai iš tiesų galėjo nutikti, ar tai – tik reklama?

– Manau, tai tikrai galėjo nutikti. Bet man stipri nuojauta, kad čia daugiau reklama nei tikras įvykis. O jei tikras įvykis, tai klausimas – kiek čia yra DI išmanumas, o kiek kaltė tų, kurie nesugebėjo tinkamos eksperimentų aplinkos sukurti. Sunku pasakyti, dėl ko tai nutiko, nes nėra tiksliai aprašyta, kaip ir kas ten buvo.