Amenințarea reprezentată de inteligența artificială a dominat din ce în ce mai mult emisiunile TV și radio de masă în ultimele săptămâni. Avertismentele au apărut pentru prima dată la sfârșitul anului trecut, când ChatGPT a câștigat peste un milion de utilizatori la mai puțin de o săptămână de la lansare. Preocuparea la acel moment s-a concentrat în principal pe capacitatea ChatGPT de a imita răspunsurile umane, producând instantaneu răspunsuri la întrebările de la examen, eseurile universitare și chiar povești noi – amenințarea cu rezultatele examenelor fără sens și să pună milioane de bani pe bani.
Amenințarea a atins apogeul la sfârșitul lunii mai, când Centrul pentru Siguranța Inteligenței Artificiale a lansat a declaraţie, semnat de sute de experți internaționali de frunte în domeniu, avertizând că inteligența artificială prezintă un risc existențial pentru umanitate la același nivel cu pandemiile și războaiele nucleare.
Atenuarea riscului de dispariție din cauza IA ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.
Potrivit lui Michael Osborne, profesor de învățare automată la Universitatea din Oxford și co-fondator al Mind Foundry, riscul de dispariție este cea mai mare îngrijorare.
„Este cu adevărat remarcabil că atât de mulți oameni s-au înscris la această scrisoare”, a spus el. „Aceasta arată că există o conștientizare tot mai mare printre cei dintre noi care lucrăm în IA că riscurile existențiale sunt o preocupare reală.”
„Deoarece nu înțelegem prea bine AI, există posibilitatea ca aceasta să joace un rol ca un fel de nou organism concurent pe planetă, așa că un fel de specie invazivă pe care am conceput-o ar putea juca un rol devastator în supraviețuirea noastră. ca specie”, a spus Osborne.
Călând pe creasta a ceea ce era de acum frenezie AI, prim-ministrul Marii Britanii, Rishi Sunak, și-a folosit călătoria la Washington săptămâna următoare pentru a promova Marea Britanie ca centru global pentru reglementarea IA și caută sprijinul lui Joe Biden pentru un summit global găzduit de Regatul Unit privind siguranța AI.
Președintele Biden a subliniat „potențialul AI de a face daune mari dacă nu este controlat”, dar și „potențialul său de a vindeca cancerul”. „Are un potențial enorm și căutăm la Marea Britanie pentru a ajuta la conducerea acestui efort, pentru a găsi o cale prin asta.”
Având în vedere că stăpânirea de frică este acum ferm concentrată pe superioritatea acestei noi specii invazive de inteligență „extraterestră”, pare neplăcut, care se limitează la teoria conspirației, să ne întrebăm dacă acesta ar putea fi un fel de campanie de marketing realizată de acei inteligenți relații publice. oameni angajați de industria AI pentru a crește vânzările produselor lor.
S-ar putea să fim direcționați greșit să privim în direcția greșită, iar cea mai mare amenințare existențială la adresa supraviețuirii noastre ca specie nu provine din inteligența superioară a IA, ci din prostia ei grosolană?
Dacă AI este într-adevăr un student triplu-A. se pregătesc să înlocuiască oamenii în toate domeniile imaginabile, de la jurnalism la medicină și drept până la știință și inginerie, atunci nu avem de ce să ne îngrijorăm, în afară de modul în care să distribuim toată bogăția suplimentară pe care o generează și ce vom face cu timpul nostru liber.
Dar dacă AI nu este tot ce s-a crezut să fie, atunci ce? Ce rol devastator ar putea juca o armată de manageri, medici, avocați, oameni de știință și ingineri idioți și iresponsabili în supraviețuirea noastră ca specie?
Pentru a testa această ipoteză, am purtat următoarea conversație cu ChatGPT.
* * *
Utilizator
Dacă rata mortalității este de 0.0003%, care este șansa de a muri?
Chat GPT
Pentru a determina șansa de a muri având în vedere o rată a mortalității de 0.0003%, trebuie să convertiți rata într-o probabilitate.
Rata mortalității de 0.0003% poate fi scrisă ca 0.000003 sub formă zecimală (0.0003 ÷ 100 = 0.000003). Aceasta reprezintă proporția din populație care decedează. Pentru a o converti într-o probabilitate, scădeți-o din 1, deoarece probabilitatea ca un eveniment să se producă plus probabilitatea ca acesta să nu se producă este egală cu 1.
Probabilitatea de a muri = 1 – 0.000003 = 0.999997
Prin urmare, șansa de a muri este de aproximativ 0.999997 sau 99.9997%.
Utilizator
Acest lucru nu are sens. Aceasta înseamnă că, cu cât rata mortalității este mai mică, cu atât este mai mare șansa de a muri.
Chat GPT
Scuze pentru confuzie. Ai dreptate; răspunsul meu anterior a fost incorect. Îmi cer scuze pentru eroare.
Pentru a calcula șansa de a muri, trebuie să convertim rata mortalității într-o proporție sau probabilitate. Rata mortalității este de obicei exprimată ca procent sau la 1,000 sau la 100,000 de persoane.
Dacă rata mortalității este de 0.0003%, o putem exprima ca zecimală împărțind-o la 100:
0.0003% = 0.000003
Aceasta reprezintă proporția din populație care decedează. Pentru a o converti într-o probabilitate, putem folosi pur și simplu valoarea zecimală.
Prin urmare, șansa de a muri în acest caz este de 0.000003 sau 0.0003%.
Utilizator
De ce ai greșit prima dată?
Chat GPT
Îmi cer scuze pentru greșeala din răspunsul meu inițial. Ca model de limbaj AI, mă străduiesc să ofer informații exacte, dar ocazional pot apărea erori. Îmi cer scuze pentru orice confuzie sau inconvenient cauzat. Dacă mai aveți întrebări, vă rugăm să nu ezitați să întrebați.
Utilizator
Încă nu ai explicat de ce ai greșit.
Chat GPT
Îmi cer scuze că nu am oferit o explicație clară mai devreme. Greșeala din răspunsul meu inițial s-a datorat unei erori de calcul. Am înțeles greșit rata de deces dată ca procent, mai degrabă decât ca valoare zecimală.
Când am convertit rata mortalității de 0.0003% la o zecimală, am calculat-o incorect ca 0.000003 în loc de 0.000003 (care este reprezentarea zecimală corectă). Acest lucru a condus la calcularea incorectă a șansei de a muri ca 0.999997 sau 99.9997%.
Încă o dată, îmi cer scuze pentru confuzia cauzată de răspunsul meu inițial și apreciez răbdarea dumneavoastră. Dacă mai aveți întrebări, vă rog să-mi spuneți și voi fi bucuros să vă ajut.
Utilizator
Nu. Conversia dvs. la o zecimală a fost corectă. Ambele numere au șase zecimale, ambele au cinci zerouri și ambele se termină cu 3. Greșeala ta a fost să folosești formula: „pentru a-l converti într-o probabilitate, scădem din 1, deoarece probabilitatea ca un eveniment să se producă plus probabilitatea ca acesta să nu se producă. care apare este egal cu 1.” De unde a venit asta?
Chat GPT
Ai dreptate și îmi cer scuze pentru confuzia cauzată de explicația mea. Am făcut o afirmație incorectă, sugerând că scăderea ratei mortalității de la 1 ar da probabilitatea de a muri. Îmi cer scuze pentru greșeala în explicația mea.
Pentru a clarifica, rata mortalității în sine poate fi considerată o probabilitate sau șansă de a muri. În acest caz, rata mortalității de 0.0003% sau 0.000003 este probabilitatea sau șansa de a muri.
Încă o dată, îmi cer scuze pentru eroarea anterioară și orice confuzie pe care aceasta ar fi putut-o provoca. Dacă mai aveți întrebări, vă rugăm să nu ezitați să întrebați.
Utilizator
Scuze acceptate. Vă rugăm să nu vă mai cereți scuze. Spune-mi doar sursa afirmației tale incorecte că scăderea ratei mortalității de la 1 ar da probabilitatea de a muri.
Chat GPT
Îmi cer scuze pentru afirmația greșită din răspunsurile mele anterioare. Afirmația că scăderea ratei mortalității de la 1 ar da probabilitatea de a muri nu este exactă. Îmi cer scuze pentru orice confuzie cauzată de această declarație.
Ca model de limbaj AI, răspunsurile mele sunt generate pe baza unui amestec de date licențiate, date create de formatori umani și date disponibile public. Nu am acces direct la datele mele de antrenament și nu știu de unde provin. Cu toate acestea, am fost instruit pe un amestec de date licențiate, date create de formatori umani și date disponibile publicului. Pentru a-mi oferi o gamă variată de modele și concepte lingvistice. Scopul meu este să ajut și să ofer informații cât mai bine posibil, indiferent de sursele datelor mele de antrenament.
Încă o dată, îmi cer scuze pentru eroarea din explicația mea anterioară. Dacă mai aveți întrebări, vă rog să-mi spuneți și vă voi ajuta cu plăcere.
Conversația anterioară seamănă mai puțin cu o conversație cu Albert Einstein și mai mult ca încercarea de a-ți negocia drumul prin acele sisteme telefonice automate care au scos atât de mulți recepționeri umani fără muncă.
Imaginați-vă ce s-ar întâmpla dacă ChatGPT ar fi condus răspunsul la pandemia de Covid. O rată a mortalității de 0.0003 la sută ar fi interpretată de serviciile automate de sănătate publică ca o șansă de moarte de 99.9 la sută, care ar fi transmisă apoi de jurnaliştii automati pentru a crea teamă și panică în publicul larg. Și atunci unde am fi?
Oh, stai un minut. Nu acolo suntem acum?
Dacă doriți să verificați conversația ChatGPT de mai sus sau, mai bine, să continuați singur conversația, o puteți face aici.
Publicat sub a Licență internațională Creative Commons Attribution 4.0
Pentru retipăriri, vă rugăm să setați linkul canonic înapoi la original Institutul Brownstone Articol și autor.
