Viitoarele modele de inteligență artificială ar putea fi turboalimentate de un nou sistem de logică pe care cercetătorii îl numesc „inferențialism”

Structurile rigide ale limbajului de care ne-am agățat cândva cu siguranță se sparg. Luați în considerare genul, naționalitatea sau religia: aceste concepte nu mai stau confortabil în cutiile lingvistice rigide ale secolului trecut. Simultan, ascensiunea AI ne impune nevoia de a înțelege modul în care cuvintele se raportează la sens și raționament.

Un grup global de filozofi, matematicieni și informaticieni au veniți cu o nouă înțelegere a logicii care abordează aceste preocupări, numite „inferenţialism”.

O intuiție standard a logicii, datând cel puţin din Aristotel este că o consecință logică ar trebui să aibă loc în virtutea conținutului propozițiilor implicate, nu doar în virtutea faptului că sunt „adevărate” sau „false”. Recent, logicianul suedez Dag Prawitz observat căpoate în mod surprinzător, tratarea tradițională a logicii nu reușește cu totul să surprindă această intuiție.

Disciplina modernă a logicii, coloana vertebrală solidă a științei, ingineriei și tehnologiei, are o problemă fundamentală. În ultimele două milenii, fundamentul filozofic și matematic al logicii a fost punctul de vedere conform căruia sensul derivă din ceea ce se referă cuvintele. Ea presupune existența unor categorii abstracte de obiecte care plutesc în jurul universului, precum conceptul de „vulpe” sau „femeie” și definește noțiunea de „adevăr” în termeni de fapte despre aceste categorii.

De exemplu, luați în considerare afirmația „Tammy este o vulpiță”. Ce înseamnă? Răspunsul tradițional este că există o categorie de creaturi numite „vulpi”, iar numele „Tammy” se referă la una dintre ele. Propunerea este adevărată doar în cazul în care „Tammy” este într-adevăr în categoria „vulpii”. Dacă nu este o vulpe, dar se identifică ca una, afirmația ar fi falsă conform logicii standard.

Consecința logică se obține prin urmare pur prin fapte de adevăr și nu prin proces de raționament. În consecință, nu poate face diferența dintre, să zicem, ecuațiile 4=4 și 4=((2 x 5² ) -10)/10 pur și simplu pentru că ambele sunt adevărate, dar cei mai mulți dintre noi am observa o diferență.

Dacă teoria noastră a logicii nu poate face față acestui lucru, ce speranță avem să învățăm inteligenței artificiale o gândire mai rafinată și mai subtilă? Ce speranță avem de a descoperi ce este bine și ce este greșit în era post-adevărului?

Înrudit: Comunicarea cu extratereștrii într-o zi ar putea fi mult mai ușoară dacă studiem modul în care agenții AI vorbesc între ei

Limbajul și sensul

Noua noastră logică reprezintă mai bine vorbirea modernă. Rădăcinile ei pot fi urmărite în filosofia radicală a excentricului filozof austriac Ludwig Wittgenstein, care în cartea sa din 1953, Investigații filozoficea scris următoarele:

„Pentru o mare clasă de cazuri de folosire a cuvântului „sens” – deși nu pentru toți – acest cuvânt poate fi explicat în acest fel: sensul unui cuvânt este utilizarea lui în limbă.”

Această noțiune face mai mult sens despre context și funcție. În anii 1990, filozoful american Robert Brandom „utilizare” rafinată pentru a însemna „comportament inferenţial”punând bazele inferenţialismului.

Să presupunem că un prieten sau un copil curios ne-ar întreba ce înseamnă să spui „Tammy este o vulpe”. Cum le-ai răspunde? Probabil nu vorbind despre categorii de obiecte. Am spune mai probabil că înseamnă „Tammy este o femeie vulpe”.

Mai precis, am explica că din faptul că Tammy este vulpe, putem deduce că este femeie și că este o vulpe. În schimb, dacă am ști ambele fapte despre ea, atunci am putea afirma într-adevăr că este o vulpiță. Aceasta este explicația inferențialistă a sensului; mai degrabă decât să presupunem categorii abstracte de obiecte care plutesc în jurul universului, recunoaștem că înțelegerea este dată de o rețea bogată de relații între elementele limbajului nostru.

Luați în considerare subiectele controversate astăzi, cum ar fi cele legate de gen. Ocolim acele întrebări metafizice care blochează discursul constructiv, cum ar fi dacă categoriile „masculin” sau „feminin” sunt reale într-un anumit sens. Astfel de întrebări nu au sens în noua logică, deoarece mulți oameni nu cred că „feminin” este neapărat o categorie cu un singur sens adevărat.

Ca inferențialist, având în vedere o propoziție precum „Tammy este femeie”, s-ar întreba doar ce se poate deduce din afirmație: o persoană ar putea trage concluzii despre caracteristicile biologice ale lui Tammy, alta despre alcătuirea ei psihologică, în timp ce alta ar putea lua în considerare o concluzie completă. fațetă diferită a identității ei.

Inferenţialismul făcut concret

Deci, inferenţialismul este un cadru intrigant, dar ce înseamnă să-l punem în practică? Într-o prelegere la Stockholm în anii 1980, logicianul german Peter Schroeder-Heister a botezat un domeniu, bazat pe inferenţialism, numit „semantică teoretică a probei„.

Pe scurt, semantica teoretică a probei este inferenţialismul concretizat. Acest lucru a cunoscut o dezvoltare substanțială în ultimii câțiva ani. În timp ce rezultatele rămân tehnice, ele revoluționează înțelegerea noastră a logicii și cuprind un progres major în înțelegerea raționamentului și discursului uman și al mașinilor.

Modelele de limbaj mari (LLM), de exemplu, funcționează prin ghicirea cuvântului următor dintr-o propoziție. Presupunerile lor sunt informate doar de tiparele obișnuite de vorbire și de un program lung de antrenament care cuprinde încercări și erori cu recompense. În consecință, ei „halucinate”adică ei construiesc propoziții care sunt formate din prostii logice.

Prin valorificarea inferențialismului, le putem oferi o oarecare înțelegere a cuvintelor pe care le folosesc. De exemplu, un LLM poate halucina faptul istoric: „Tratatul de la Versailles a fost semnat în 1945 între Germania și Franța după cel de-al doilea război mondial”, pentru că sună rezonabil. Dar înarmat cu o înțelegere inferențială, ar putea realiza că „Tratatul de la Versaille” a fost după primul război mondial și 1918, nu după al doilea război mondial și 1945.

Acest lucru ar putea fi util și când vine vorba de gândire critică și politică. Având o înțelegere adecvată scopului a consecințelor logice, putem fi capabili să semnalăm și să catalogăm automat argumentele prostii în ziare și dezbateri. De exemplu, un politician poate declara: „Planul adversarului meu este groaznic pentru că au o istorie de a lua decizii proaste”.

Un sistem echipat cu o înțelegere adecvată a consecințelor logice ar fi capabil să semnaleze că, deși poate fi adevărat că oponentul are o istorie de decizii proaste, nu a fost oferită nicio justificare reală pentru ceea ce este greșit cu planul lor actual.

Îndepărtând „adevărul” și „falsul” de pe soclul lor deschidem calea discernământului în dialog. Pe baza acestor evoluții putem susține că un argument – ​​fie în arena aprinsă a dezbaterii politice, în timpul unui dezacord plin de spirit cu prietenii sau în lumea discursului științific – este valid din punct de vedere logic.

Acest articol editat este republicat din Conversația sub o licență Creative Commons. Citiți articol original.

Alexander V. Gheorghius deține un MMath în matematică de la Universitatea din Warwick și un doctorat în informatică de la University College London (UCL). Este membru al Societății de Matematică din Londra și membru asociat al Institutului de Matematică și Aplicațiile sale. În prezent, este cercetător în logică sau logică aplicată la UCL.