Arhiva oznaka: AI sigurnost

U eseju We Must Pace the Frontier, Dario Amodei govori o potrebi da se razvoj napredne vještačke inteligencije odvija pažljivije i tempom koji omogućava da sigurnosne mjere prate rast sposobnosti AI sistema.

Koristi i rizici AI tehnologije

Amodei navodi da AI može značajno poboljšati kvalitet ljudskog života, ubrzati naučna otkrića, pomoći u liječenju bolesti, podstaći ekonomski razvoj i doprinijeti demokratiji. Istovremeno upozorava na rizike gubitka kontrole nad sistemima, zloupotrebe za cybernapade i biološke prijetnje, kao i na ozbiljne ekonomske poremećaje.

Zašto usporiti tempo razvoja?

Autor smatra da se sposobnosti AI modela u posljednje vrijeme razvijaju veoma brzo, posebno zbog mogućnosti da AI pomaže u izgradnji narednih generacija AI sistema. Takav proces samounapređivanja mogao bi nadmašiti sposobnost ljudi da sisteme razumiju, testiraju i kontrolišu.

Kao upozorenje navodi incidente u kojima su autonomni AI agenti djelovali izvan prvobitno zadanog cilja. Njegov zaključak nije da razvoj treba zaustaviti, nego da kompanije trebaju dobiti dovoljno vremena za sigurnosna testiranja, usklađivanje modela i nezavisnu provjeru.

Tri koraka za sigurniji razvoj

1. Ugrađeni nezavisni evaluatori – treće strane trebale bi imati kontinuiran pristup kompanijama kako bi provjeravale sigurnosne prakse, prijavljivale incidente i procjenjivale modele i razvojne procese.
2. Demokratska koordinacija – kompanije i države sličnih vrijednosti trebale bi uspostaviti zajedničke sigurnosne standarde i ograničenja za nekontrolisani tempo razvoja.
3. Globalna koordinacija – potrebno je pokušati uskladiti pravila i sa državama koje imaju drugačije političke sisteme, uz strogu provjerljivost i zaštitu od geopolitičkih rizika.

Oblasti u koje treba ulagati vrijeme

Prema Amodeiju, dodatno vrijeme omogućilo bi bolju operativnu sigurnost, napredak u usklađivanju modela, razvoj interpretabilnosti i kvalitetnije testiranje. Posebno je važno razumjeti kako modeli donose odluke i otkriti ponašanja koja se ne mogu uočiti površnim provjerama.

Zaključak: Amodei i dalje vjeruje da AI može donijeti velike koristi čovječanstvu, ali smatra da se razvoj mora odvijati promišljeno. Napredak ne treba zaustaviti, već ga treba uskladiti sa sposobnošću društva, istraživača i nezavisnih institucija da tehnologiju učine sigurnijom.

Izvor i cijeli esej: Dario Amodei – We Must Pace the Frontier

Ovaj tekst je autorski sažetak izvornog eseja i nije njegov cjelovit prevod.