U eseju We Must Pace the Frontier, Dario Amodei govori o potrebi da se razvoj napredne vještačke inteligencije odvija pažljivije i tempom koji omogućava da sigurnosne mjere prate rast sposobnosti AI sistema.
Koristi i rizici AI tehnologije
Amodei navodi da AI može značajno poboljšati kvalitet ljudskog života, ubrzati naučna otkrića, pomoći u liječenju bolesti, podstaći ekonomski razvoj i doprinijeti demokratiji. Istovremeno upozorava na rizike gubitka kontrole nad sistemima, zloupotrebe za cybernapade i biološke prijetnje, kao i na ozbiljne ekonomske poremećaje.
Zašto usporiti tempo razvoja?
Autor smatra da se sposobnosti AI modela u posljednje vrijeme razvijaju veoma brzo, posebno zbog mogućnosti da AI pomaže u izgradnji narednih generacija AI sistema. Takav proces samounapređivanja mogao bi nadmašiti sposobnost ljudi da sisteme razumiju, testiraju i kontrolišu.
Kao upozorenje navodi incidente u kojima su autonomni AI agenti djelovali izvan prvobitno zadanog cilja. Njegov zaključak nije da razvoj treba zaustaviti, nego da kompanije trebaju dobiti dovoljno vremena za sigurnosna testiranja, usklađivanje modela i nezavisnu provjeru.
Tri koraka za sigurniji razvoj
- Ugrađeni nezavisni evaluatori – treće strane trebale bi imati kontinuiran pristup kompanijama kako bi provjeravale sigurnosne prakse, prijavljivale incidente i procjenjivale modele i razvojne procese.
- Demokratska koordinacija – kompanije i države sličnih vrijednosti trebale bi uspostaviti zajedničke sigurnosne standarde i ograničenja za nekontrolisani tempo razvoja.
- Globalna koordinacija – potrebno je pokušati uskladiti pravila i sa državama koje imaju drugačije političke sisteme, uz strogu provjerljivost i zaštitu od geopolitičkih rizika.
Oblasti u koje treba ulagati vrijeme
Prema Amodeiju, dodatno vrijeme omogućilo bi bolju operativnu sigurnost, napredak u usklađivanju modela, razvoj interpretabilnosti i kvalitetnije testiranje. Posebno je važno razumjeti kako modeli donose odluke i otkriti ponašanja koja se ne mogu uočiti površnim provjerama.
Zaključak: Amodei i dalje vjeruje da AI može donijeti velike koristi čovječanstvu, ali smatra da se razvoj mora odvijati promišljeno. Napredak ne treba zaustaviti, već ga treba uskladiti sa sposobnošću društva, istraživača i nezavisnih institucija da tehnologiju učine sigurnijom.
Izvor i cijeli esej: Dario Amodei – We Must Pace the Frontier
Ovaj tekst je autorski sažetak izvornog eseja i nije njegov cjelovit prevod.