După 75 de ani, Isaac Asimov ' Trei legi ale roboticii trebuie actualizate

Când autorul de science fiction Isaac Asimov a conceput cele trei legi ale roboticii, el se gândea despre androizi. El a imaginat o lume în care acești roboți de tip uman ar acționa ca niște servitori și ar avea nevoie de un set de reguli de programare pentru a-i împiedica să provoace rău. Dar în cei 75 de ani de la publicarea primei povești care prezintă orientările sale etice, au existat progrese tehnologice semnificative. Acum avem o concepție foarte diferită despre cum pot arăta roboții și cum vom interacționa cu ei.

Domeniul roboticii extrem de evoluat produce o gamă largă de dispozitive, de la aspiratoare autonome până la drone militare. la linii întregi de producție din fabrică. În același timp, inteligența artificială și învățarea automată stau din ce în ce mai mult în spatele multor programe software care ne afectează zilnic, indiferent dacă căutăm pe internet sau că ni se alocă servicii guvernamentale. Aceste evoluții conduc rapid la un moment în care roboții de tot felul vor deveni predominanți în aproape toate aspectele societății, iar interacțiunile om-robot vor crește semnificativ.

Legile lui Asimov sunt încă menționate ca un șablon pentru a ne ghida dezvoltarea roboților. Guvernul sud-coreean chiar a propus o Cartă de etică a robotului în 2007, care să reflecte legile. Dar având în vedere cât de mult s-a schimbat robotica și va continua să crească în viitor, trebuie să ne întrebăm cum ar putea fi actualizate aceste reguli pentru o versiune a inteligenței artificiale din secolul XXI.

Cele trei legi

egile sugerate de Asimov au fost concepute pentru a proteja oamenii de interacțiunile cu roboții. Acestea sunt:

• Un robot nu poate răni o ființă umană sau, prin inacțiune, permite unei ființe umane să facă rău
• Un robot trebuie să respecte ordinele date de ființe umane, cu excepția cazurilor în care astfel de ordine ar intra în conflict cu prima lege
• Un robot trebuie să-și protejeze propria existență atâta timp cât o astfel de protecție nu este în conflict cu prima sau a doua lege

După cum sa menționat, una dintre problemele evidente este că astăzi roboții par a fi mult mai variați decât cei din poveștile lui Asimov, inclusiv unele care sunt mult mai simple. Deci, trebuie să ne gândim dacă ar trebui să avem un prag de complexitate sub care regulile ar putea să nu fie necesare. Este dificil să concepeți un aspirator robot care are capacitatea de a face rău oamenilor sau chiar care necesită abilitatea de a respecta ordinele. Este un robot cu o singură sarcină care poate fi predeterminat înainte de a fi pornit.

La celălalt capăt al spectrului, totuși, sunt roboții proiectați pentru medii de luptă militară. Aceste dispozitive sunt proiectate pentru spionaj, eliminarea bombelor sau pentru transportarea încărcăturii. Acestea par să se alinieze în continuare legilor lui Asimov, mai ales că sunt create pentru a reduce riscul vieților umane în medii extrem de periculoase.

Dar este doar un mic pas să presupunem că scopul militar final ar fi pentru a crea roboți înarmați care ar putea fi desfășurați pe câmpul de luptă. În această situație, Prima lege – care nu dăunează oamenilor – devine extrem de problematică. Rolul armatei este adesea de a salva viețile soldaților și civililor, dar adesea rănind dușmanii săi pe câmpul de luptă. Deci, legile ar trebui să fie luate în considerare din perspective sau interpretări diferite.

Ambiguitatea legilor a determinat autorii, inclusiv Asimov, să exploreze modul în care ar putea fi interpretate greșit sau aplicate incorect. O problemă este că nu definesc de fapt ce este un robot. Pe măsură ce cercetarea depășește limitele tehnologiei, există ramuri emergente ale roboticii care privesc mai multe dispozitive moleculare.

De exemplu, „roboții” fabricați din ADN și proteine ar putea fi folosiți în chirurgie pentru corectarea tulburărilor genetice. În teorie , aceste dispozitive ar trebui să respecte cu adevărat legile lui Asimov. Dar pentru ca aceștia să urmeze ordinele prin intermediul semnalelor ADN, ar trebui să devină în esență o parte integrantă a omului la care lucrau. Această integrare ar face dificilă determinarea dacă robotul era suficient de independent. să se încadreze sub legi sau să funcționeze în afara lor. Și la nivel practic, ar fi imposibil ca acesta să stabilească dacă orice ordine primite ar provoca un prejudiciu omului dacă ar fi executate.

Există, de asemenea, întrebarea ceea ce se consideră a dăuna unei ființe umane. Aceasta ar putea fi o problemă atunci când se ia în considerare dezvoltarea bebelușilor roboți în Japonia, de exemplu. Dacă un om ar adopta unul dintre acești roboți, ar putea provoca, fără îndoială, daune emoționale sau psihologice. este posibil ca acest rău să nu fi apărut din acțiunile directe ale robotului sau să devină evident până la mulți ani după ce interacțiunea om-robot sa încheiat. Această problemă s-ar putea aplica chiar și IA mult mai simplă, cum ar fi utilizarea învățării automate pentru a crea muzică care să provoace emoții.

Probleme practice

Cealaltă problemă importantă a legilor este că am avea nevoie de un progres semnificativ în AI pentru ca roboții să le poată urma. Scopul cercetării AI este uneori descris ca dezvoltarea de mașini care pot gândi și acționa rațional și ca un om. Până în prezent, emularea comportamentului uman nu a fost bine cercetată în domeniul AI și dezvoltarea comportamentului rațional sa concentrat pe zone limitate, bine definite.

Având în vedere acest lucru, un robot ar putea funcționa doar în sferă foarte limitată și orice aplicare rațională a legilor ar fi extrem de restricționată. Chiar și asta s-ar putea să nu fie posibil cu tehnologia actuală, deoarece un sistem care ar putea raționa și lua decizii bazate pe legi ar avea nevoie de o putere de calcul considerabilă.

Având în vedere toate aceste probleme, legile lui Asimov oferă puțin mai mult decât principiile fundamentale pentru cineva care dorește să creeze un cod robot astăzi. Trebuie să le urmăm cu un set de legi mult mai cuprinzător. Acestea fiind spuse, fără evoluții semnificative în AI, implementarea unor astfel de legi va rămâne o sarcină imposibilă. Și asta înainte de a lua în considerare chiar potențialul de rănire în cazul în care oamenii încep să se îndrăgostească de roboți.