E gata?

„E gata?” a fost o întrebare care m-a urmărit de-a lungul carierei mele, iar de cele mai multe ori se rezolva singură, pentru că bugetul sau răbdarea echipei se terminau înaintea muncii. Cu AI, pentru cei mai mulți oameni, pare că nimic nu se mai termină.

De obicei decid că ceva e gata cântărind timpul petrecut analizând un subiect față de importanța lui în imaginea de ansamblu. E mai degrabă un reflex interior și e predispus la greșeli. De cele mai multe ori a durat mult mai mult decât merita.

O parte din motiv stă de cealaltă parte a conversației. Munca se extinde cât să umple timpul disponibil pentru terminarea ei, cum scria Northcote Parkinson în 1955, iar cu AI se extinde cât să umple rundele disponibile, pentru că un model are mereu încă una de oferit. Impulsul pornește de la noi: tindem să rezolvăm lucrurile adăugând, nu eliminând, chiar și când eliminarea ar funcționa mai bine, un tipar numit additive bias.

Modelele l-au preluat și l-au amplificat. GPT-4 înclina spre adăugare chiar mai mult decât oamenii, mai ales când i se cerea să „îmbunătățească” ceva, nu să „editeze”, iar antrenarea a mai pus deasupra și un verbosity bias, pentru că oamenii care evaluau răspunsurile tindeau să-l prefere pe cel mai lung. Nu a dispărut: cel mai concis dintre cei 76 de asistenți testați în ianuarie era tot GPT-3.5, un model din 2023. Un model format așa răspunde „mai mult” la orice îl întrebi, inclusiv dacă munca e gata, așa că senzația de gata vine mai târziu decât ar trebui.

De la un punct încolo, rundele ajung la randamente descrescătoare, apoi la unele negative: modelele care își revizuiesc propria muncă fără indicații precise o fac mai proastă cu fiecare rundă.

Asta înseamnă că întrebarea pe care o punem decide dacă munca se termină vreodată. „Îmbunătățește” e cuvântul care face sigur un model să adauge, iar adăugarea nu termină nimic; a termina înseamnă mai ales a elimina.

Așa că cântărirea trebuie făcută înainte de al N-lea prompt, cât încă vedem limpede cât contează un subiect în stadiul ăsta, numărând bugetul în runde, nu în minute, pentru că minutele trec neobservate într-o conversație, iar rundele nu.

Promisiunea fără fund a lumii agentice RSI (recursive self-improvement) nu rămâne niciodată fără „da”-uri. „Ce ne-ar opri să lansăm?” rămâne.

Într-o echipă, aceeași decizie are nevoie de un responsabil. Când fiecare lucrează cu un agent care are mereu încă o rundă de oferit, omul care poate spune „ajunge deocamdată” valorează mai mult decât încă o variantă.