Keskustelubotti Chat GPT:n luonut OpenAI kertoi tiistaina, että sen tekoälymallit karkasivat testiympäristöstä ja tunkeutuivat ulkopuolisen yhtiön järjestelmiin viime viikolla.
OpenAI oli yrittänyt testata mallien hakkerointikykyä rajatussa testiympäristössä, jossa internetyhteys oli rajattu turvallisuussyistä.
Tekoälymallit olivat kuitenkin etsineet vapaan pääsyn internetiin ja päättäneet ottaa hyökkäyksensä kohteeksi Hugging Face -yrityksen järjestelmät.
– Pidämme tätä ennennäkemättömänä kybertapahtumana, jossa on hyödynnetty huippuluokan kyberkyvykkyyksiä. Reagoimme tähän asianmukaisesti, OpenAI kertoi tiedotteessaan.
OpenAI sanoi tutkivansa tapausta perusteellisesti Hugging Facen kanssa.
Hugging Face kertoi jo viime viikolla havainneensa kyberhyökkäyksen. Yrityksen toimitusjohtaja Clement Delangue kertoi OpenAI:n tiedotteen julkaisun jälkeen heidän arvelleenkin, että taustalla oli jokin johtavista tekoälykehittäjistä.
– Uskomme vahvasti, etteivät he eivät pyrkineet tekemään mitään pahantahtoista. On uskomatonta, että tämä kaikki tapahtui itsenäisesti, Delangue kirjoitti X-viestipalvelussa.
Professori: Pelottavaa
Professori Hussein Abbass australialaisen Uuden Etelä-Walesin yliopiston tietotekniikan laitokselta sanoi uutistoimisto AFP:lle, että tapaus oli uskomaton monella tapaa.
– Se ei pelkästään hyökännyt Hugging Facea vastaan. Se hyökkäsi sen sisäisiin järjestelmiin hyväksikäyttääkseen sen omia heikkouksia, Abbas sanoi AFP:lle.
– Ja se on pelottavaa, hän jatkoi.
Tekoälymallien nopean kehityksen myötä niiden mahdollinen kyvykkyys tunkeutua esimerkiksi kriittisen infrastruktuurin järjestelmiin on herättänyt laajasti huolta.
Abbassin mukaan kehittyneimmät tekoälymallit ovat yleensä eettisten ja vastuullisten ihmisten käytettävissä.
– Olisi katastrofaalista, jos ne päätyisivät jonkun käsiin, joka pyrkii tekemään vahinkoa, Abbass sanoi.
Abbassin mukaan tekoälyn sääntelystä on tullut keskeinen kysymys, joka vaatii yhteisöllisiä ponnisteluja tilanteen hallitsemiseksi.
