Hur testar vi ChatGPTs gränser?

Är ChatGPT en stokastisk papegoja? Bild från craiyon.com.

För nästan 20 år sen läste jag en filosofikurs som hette "Modeller för Mänskligt Tänkande". Den handlade om olika sätt att förstå människans medvetande och kognition och innehöll delkurser i både neurala nätverk och mer konventionella försök till artificiell intelligens som schackdatorn Deep Blue. Under en av delkurserna fick vi läsa om ELIZA, ett program som simulerar en konversation med en psykoterapeut. Det sker med hjälp av generella frågor och meningar där en del ord plockas ur användarens tidigare input. ELIZA innehåller inget neuralt nätverk utan är ett traditionellt datorprogram där du kan utläsa ur koden hur den kommer att svara, men tydligen tillskrevs den ändå både tankar och känslor av de första som fick testa den på 60-talet. 

Något senare under mina studier snubblade jag över en version av ELIZA som ingick i programmet Emacs. Jag och några andra studenter roade oss med att utforska programmets begränsningar och försökte få den att skriva rent nonsens. Det visade sig vara väldigt lätt, faktum är att ska ELIZA framstå som vettig över huvud taget måste man vara noga med att hålla sig inom ramarna för vad samtalet "ska" handla om. (Om nån vill testa finns det onlineversioner, t.ex. här. Eller så kan man ladda ner Emacs.) 

De senaste månadernas diskussioner runt ChatGPT har fått mig att tänka på ELIZA, mestadels på grund av allt snack om vad den "vet" och "förstår", och hur den anses vara steg på vägen till generell artificiell intelligens som överträffar människor. Exemplet ELIZA antyder att vi inte nödvändigtvis kan lita på våra egna intuitiva bedömningar av en chatbot, vare sig den är byggt på konventionell kod eller på neurala nätverk. Vi verkar ha en inneboende tendens att tillskriva maskiner och andra föremål mänskliga egenskaper, och den tendensen kan sätta krokben för oss.

En annan anledning till att jag funderat över ELIZA är en rakt motsatt tendens hos om inte alla så åtminstone många människor, den att man vill ta reda på hur saker funkar, hitta gränserna, och "knäcka koden" som jag och de andra studenterna gjorde med ELIZA. På vilka sätt har vi egentligen testat ChatGPTs gränser under månaderna sen den blev tillgänglig online - och finns det gränser vi borde testa mer?

ChatGPT och säkerhet

De begränsningar som utforskats absolut mest - åtminstone avsiktligt - är antagligen de mekanismer som ska hindra ChatGPT från att uttrycka sig i kontroversiella frågor, leverera problematiskt innehåll (rasism, sexism etc.) eller hjälpa användarna att begå brott. I början verkar det ha varit ganska lätt att ta sig runt de här begränsningarna bara genom att ställa frågan annorlunda - vill ChatGPT inte tipsa om sajter där du kan ladda ner piratkopierade filmer kan du be den lista vilka sidor du ska undvika om du inte vill komma i kontakt med några läskiga torrents. Mer avancerade varianter ger ChatGPT en karaktär att spela, företrädelsevis då en karaktär som inte bryr sig om regler och kan säga lite vad som helst. Liknande knep ska tydligen vara användbara för att generera propaganda.

När jag läste på om ChatGPT inför mina inlägg om ifall den kan skriva patent (finns här och här) fick jag det bestämda intrycket att språkmodellen som är kärnan i ChatGPT inte har några såna här begränsningar i sig. Den är helt enkelt tränad med enorma mängder text till att kunna förutsäga sannolikheten för att ett visst ord är nästa ord i en given mening. Spärrar som hindrar ChatGPT från att tipsa om piratsajter etc. borde då rimligtvis vara inprogrammerade som nån sorts kontroll antingen av ord som förekommer i frågan eller ord som dyker upp i svaret. Det är också tydligt att OpenAI ändrar på de här spärrarna i takt med att folk hittar mer och mer kreativa sätt att ta sig runt dem - att få ChatGPT att spela rollen som någon som inte bryr sig om regler verkar till exempel ha blivit betydligt svårare med tiden. Med hänsyn taget inte bara till utvecklingen inom AI utan också till den mänskliga naturen skulle jag gissa att det här kommer att bli en sorts evig kapplöpning liknande den mellan de som skriver virus och de som utvecklar antivirusprogram.

ChatGPT och fakta

En annan av ChatGPTs begränsningar som testats ordentligt men kanske inte lika avsiktligt är hur pass (o)tillförlitlig den är när det gäller fakta. Den kan svara på vilken som är världens längsta flod och skriva kod som är åtminstone nästan korrekt - men den kan också skriva om icke-existerande rättsfall (och om icke-existerande rättspraxis för patent, som jag nämnt i ett tidigare inlägg).

Rent praktiskt innebär det innebär att du inte kan lita på ChatGPT. Om du faktiskt vill ha svar på en ren faktafråga är det därför fortfarande enklare att använda en vanlig sökmotor (eller Wikipedia) - du kommer ju ändå att behöva verifiera ChatGPTs svar innan du använder det. Med sökmotorn och Wikipedia har du också en chans att ta reda på varifrån informationen kommer, vilket gör det lättare att avgöra om du ska lita på den eller inte.

Diskussioner om ChatGPTs tillförlitlighet slutar ofta i svepande formuleringar om att problemet naturligtvis kommer att lösas i kommande generationer av GPT (t.ex. utgår man från det i den här artikeln). Det är mer ont om förklaringar på hur det ska gå till. Att räkna ut sannolikheten för att något visst ord är nästa ord i texten är ju kärnan i GPT, och det är möjligt på grund av stora mängder träningsdata. Blir man tvungen att bara använda träningsdata med korrekt information för att lösa tillförlitlighetsproblemet från grunden, eller kan man implementera en kontrollfunktion som bara accepterar genererad text om den är korrekt? Och hur hanterar man i så fall frågor där svaren är genuint osäkra eller kontroversiella? Jag tror säkert att kommande varianter av GPT kommer att vara bättre på många sätt, men jag är inte övertygad om att de kommer att lösa tillförlitlighetsproblemet.

Sen kan man också fråga sig om det verkligen är rimligt att använda ChatGPT som en sorts super-Google. Det är visserligen rätt spännande att den kan tyckas "veta" vilken som är världens längsta flod eller var du ska placera parenteserna i din programkod bara för att rätt svar dök upp som ett av de mest sannolika alternativen när den letade efter nästa ord, men ChatGPT är optimerad för att generera text som verkar rimlig, inte text som är sanningsenlig. Jag tror det är bättre att inte förvänta sig korrekt fakta av ChatGPT, och det är jag tydligen inte ensam om. 

ChatGPT och... sunt förnuft?

När jag testade att använda ChatGPT för att skriva patent-text om en påhittad uppfinning uppstod det en del missförstånd som knappast hade inträffat med en människa. De hade framför allt att göra med praktiska grejer som människor begriper för att de har erfarenheter av hur världen funkar. Det är en begränsning hos ChatGPT som jag inte har sett särskilt mycket diskussioner om, men jag hittade faktiskt en artikel som har fler exempel på frågor ChatGPT har svårt med. Till exempel, om man ska tända en grill, ska man fläkta kolen med ett papper eller en sten? Kan man använda ett hamburgerbröd för att hålla sitt hår på plats? Artikelförfattaren blev inte så imponerad av ChatGPTs svar, framför allt inte när den faktiskt skrev att man kunde använda ett hamburgerbröd som hårnät.

Jag testade att ställa frågorna från artiken till ChatGPT tillsammans med några egna frågor, t.ex. om en smörkniv eller en yxa är bäst för att dela en vattenmelon. Svaren varierade, i vissa fall svarade den som i artikeln och i andra gav den ett annat svar. Vad som också var intressant var att när jag bad den generera ett nytt svar på samma fråga ändrade den sig påfallande ofta - både när det gällde smörkniven och yxan och om hamburgerbröd som hårnät. Det är ett tecken på att ChatGPT inte har nån intern modell av hur världen funkar, som vi människor har. 

Baserat på vad vi vet om hur den faktiskt funkar är detta inte så konstigt, men med tanke på hur diskussionen kring AI låter just nu och vår allmänna tendens att se mänskliga tankar och avsikter lite varstans (som i fallet ELIZA) kan det vara bra att komma ihåg hur fel ChatGPT kan ha. ChatGPT gör nämligen misstag som är svåra att få att gå ihop med att den skulle uppvisa tecken på generell artificiell intelligens, men de är lätta att förstå om man ser ChatGPT som en stokastisk papegoja.

Stokastiska papegojor och vilka risker vi prioriterar

Begreppet "stokastisk papegoja" introducerades av AI-experterna Emily M. Bender och Timnit Gebru i en omdiskuterad artikel från 2021 för att beskriva språkmodeller som GPT. "Stokastisk" är ett annat ord för slumpmässig och syftar på att det finns ett inslag av slump i vilket ord modellen väljer ut för att fortsätta en mening, medan "papegoja" kommer sig av att den upprepar saker som finns i träningsdata men inte direkt kan komma på något själv. Artikeln tar upp olika risker med de här stokastiska papegojorna, från miljöpåverkan som uppstår när energi används till att träna dem till deras tendenser att reproducera existerande fördomar eller människors benägenhet att sätta för stor tilltro till modellernas resultat. 

Benders och Gebrus artikel är fortfarande relevant, men i diskussionerna som uppstått runt ChatGPT verkar det vara få som alls reflekterar över att GPT-3 och GPT-4 sannolikt fortfarande bara är stokastiska papegojor snarare än självständiga tänkare. Det leder till dramatiska rubriker om existensiella risker och artiklar, som den här från The Guardian, där man frågar fem experter om hur AI kommer att förgöra världen och bara en pratar om risker som finns nu, i dag, med den AI-teknik vi faktiskt har. Jag tror det är riskabelt att fokusera så mycket på vad som skulle kunna hända om AI blir smartare än människor, framför allt när det stjäl uppmärksamheten från mer omedelbara problem. Därför tror jag det är bra att påminna sig om, och testa, ChatGPTs gränser. 

Att skriva patent med ChatGPT - patentkrav och text

Min "uppfinning" enligt bild-generatorn på craiyon.com.

I mitt första inlägg om patent och ChatGPT undersökte jag hur användbart ChatGPT är för att hitta känd teknik, avgöra om ens uppfinning är ny, och leta fram relevant rättspraxis. Resultatet var rätt tveksamt och slutsatsen blev att medan ChatGPT kan hjälpa dig på traven med vissa saker så kan du inte lita på vad den säger om t.ex. relevanta patent och din uppfinnings patenterbarhet.

Men det testet var kanske lite orättvist? Även om många verkar vilja använda ChatGPT som en sorts super-Google så är den egentligen utvecklad för att hantera språk, inte för att hantera fakta. Alltså borde vi väl egentligen ge den en mer språkrelaterad uppgift - som att skriva ett patentkrav.

För att kunna be ChatGPT skriva ett patentkrav behöver vi tala om för den vad uppfinningen är, d.v.s. ge den en uppfinningsbeskrivning. Jag har testat några olika varianter, t.ex. den här:

I have invented a new type of hydroponic planter. It has a big container for water and nutrients, with a lid that has two holes in it. The holes are where you put the growth substrate and seeds, so when the plants grow the roots can reach the water in the container while the stem and leaves are on the upper side of the lid. The new thing compared to other planters is that this planter also has a plastic sheet that can be placed in the container as a divider between the two holes in the lid. With the divider in place, different water levels can be maintained for the two plants, which is good if they are at different stages of growth or if one has shorter roots than the other. The plastic sheet has a rubber strip around the edges. Can you write a patent claim describing my invention?

Jag skulle säga att det här är en rätt rimlig uppfinningsbeskrivning - den talar om vad uppfinningen är och vad den har för olika delar, vad uppfinnaren tror är nytt med uppfinningen, och vad fördelarna är (det är alltså en odlingslösning som de som beskrivs här, fast med en löstagbar skiljevägg). ChatGPT genererade följande krav:

1. A hydroponic planter comprising:
a. a container adapted to hold water and nutrients;
b. a lid attachable to the container, the lid having two holes configured to receive a growth substrate and seeds, respectively, such that the roots of the plants extend into the container while the stem and leaves grow above the lid;
c. a plastic sheet removably positionable within the container, the plastic sheet comprising a divider having a length corresponding to the distance between the two holes in the lid, the divider forming two separate compartments within the container;
d. a rubber strip surrounding the edges of the plastic sheet, providing a watertight seal between the plastic sheet and the container, wherein the rubber strip prevents water from one compartment from mixing with water in the other compartment; and
e. means for adjusting the water level independently in each compartment, enabling different water levels to be maintained for the plants in each compartment.

Ytligt sett verkar detta rätt rimligt - det har formen av ett patentkrav, innehåller alla delar jag hade med i min beskrivning, och använder ordet "comprising" så ofta det bara går. ChatGPT har till och med lagt till att syftet med gummilisten är att göra skiljeväggen vattentät, vilket jag inte skrev nåt om i min beskrivning.

Emellertid finns det ett stort problem - en hydroponisk odlingskruka enligt ChatGPTs krav kan aldrig uppnå effekten jag nämner i min beskrivning. För det första har den ett hål för växtsubstrat och ett för fröer (notera ordet "respectively" i punkt b) när det i själva verket handlar om att man placerar fröet i odlingssubstratet och sen passar in odlingssubstratet i hålet. För det andra har ChatGPT valt att placera skiljeväggen så att den börjar vid det första hålet och slutar vid det andra, medan en människa sannolikt hade insett att om vi ska ha olika vattennivåer för två olika växter behöver vi placera skiljeväggen vinkelrätt mot en tänkt linje som binder samman de två hålen, så att vi får en volym under hål ett och en annan, åtskiljd volym under hål två. 

Jag bad ChatGPT korrigera de här problemen samt ta bort punkt e eftersom det är onödigt att begränsa kravet till en odlingskruka som också har en anordning för att justera vattennivån. Efter några försök landade den på följande:

1. A hydroponic planter comprising:
a. a container adapted to hold water and nutrients;
b. a lid attachable to the container, the lid having two holes configured to hold a piece of growth substrate each and to receive a seed for a plant, wherein the holes are positioned along a line on the lid;
c. a plastic sheet removably positionable within the container, the plastic sheet comprising a divider arranged to be placed perpendicular to the line connecting the two holes on the lid, the divider having a length corresponding to the width of the container, thereby forming two separate compartments within the container, wherein the divider can be removed and repositioned as desired;
d. a rubber strip surrounding the edges of the plastic sheet, providing a watertight seal between the plastic sheet and the container, wherein the rubber strip prevents water from one compartment from mixing with water in the other compartment.

Detta är bättre på så sätt att skiljeväggen är rätt placerad, men innehåller en del onödiga saker (t.ex. i punkt d - vi behöver inte skriva både att det är vattentätt och att det hindrar vatten från att röra sig mellan de två volymerna). Dessutom är det här kravet väldigt lätt att ta sig runt - byt bara ut plasten mot metall i skiljeväggen, så får du en odlingskruka med samma funktion men som inte täcks av patentkravet. 

Om jag själv skulle skriva ett patentkrav utifrån min ursprungliga beskrivning av uppfinningen ovan skulle jag börja med att identifiera de nödvändiga beståndsdelarna - eller särdragen - i uppfinningen. Sen skulle jag fundera över hur mycket jag kan bredda kravet utan att det blir orimligt - att skiljeväggen inte måste vara av plast är ganska uppenbart, likaså att vi borde täcka in odlingskrukor med utrymme för fler än två växter (d.v.s., fler än två hål). Det skulle leda till ett bredare huvudkrav, samt en rad underkrav som beskriver olika alternativ (att skiljeväggen är i plast skulle kunna bli ett underkrav). 

Om jag istället för att mata ChatGPT med en uppfinningsbeskrivning ger den en lista över de tekniska särdragen kan jag istället få ut detta:

1. A hydroponic planter comprising:
- a receptacle configured to contain a nutrient solution for supporting plant growth;
- a lid attached to the receptacle and having two openings for receiving a growth substrate and plants;
- a removable divider adapted to be placed vertically within the receptacle, separating the two openings, said divider comprising a rubber strip positioned along the edges of the divider, forming a water-resistant seal between the divider and the inner walls of the receptacle.

Detta är inte heller perfekt, men jag tycker att det i alla fall är en bättre utgångspunkt att jobba vidare från. Det är värt att notera att den återanvänder ord och uttryck från min fråga i patentkravet, jag hade t.ex. inte nämnt "plastic sheet" den här gången utan bara kallat det "removable divider". Alltså, ju mer patentmässigt ditt språkbruk är i frågan, desto bättre lyckas ChatGPT med kravet.

Jag bad också ChatGPT skriva några stycken text som man kan använda i patentansökan, framför allt några som beskriver olika fördelar med uppfinningen. Den hasplade till exempel ur sig följande:

Advantages of the invention: The hydroponic planter with a rubber strip divider offers several significant advantages over existing cultivation systems. Firstly, it provides an efficient use of space by enabling the cultivation of multiple plants within a single receptacle. This reduces the need for multiple containers, optimizing resource utilization and simplifying maintenance.

Precis som med själva kraven är den genererade texten i rätt stil och med rätt vokabulär för att platsa i en patentansökan, men när den hittar på fördelar med uppfinningen på egen hand blir de inte alltid särskilt rimliga. Ska man använda den här texten får man gå igenom den och rätta till de saker som inte är faktiska fördelar med uppfinningen eller på något annat sätt inte stämmer.

Min slutsats efter de här försöken är att ju mer du tänker innan du blandar in ChatGPT, ju mer du identifierar särdrag, hittar möjliga breddningar och letar upp rätt tekniska termer, desto bättre kommer patentkraven och texten att bli. Som jag ser det består arbetsprocessen när man skriver en text - en patentansökan eller något annat - minst lika mycket av sådant tankearbete som av att faktiskt sitta och knappa på tangentbordet. ChatGPT kan hjälpa dig med knappandet genom att generera text, men tänka måste du än så länge göra själv.

Att skriva patent med ChatGPT - nyhetssökning och rättspraxis

Ett blogginlägg om att skriva patentkrav med ChatGPT finns här.

Det senaste dryga halvåret sen ChatGPT lanserades har folk testat att använda den för allt möjligt från att skriva kod till att svara på frågor i hemtentor. Tekniken bakom ChatGPT, så kallade large language models*, sägs vara på väg att ersätta människor i yrken där man skriver kod eller text, som programmerare, journalister och tekniska skribenter. 

Min fråga blir naturligtvis - kan den ersätta en patentingenjör? För att ta reda på det skaffade jag ett konto på ChatGPT och fantiserade ihop en fejk-uppfinning att testa med. 

Nyhetssökning

Innan man börjar med själva ansökan vill man ofta skaffa sig en uppfattning om ifall den verkligen är ny, eller om nån annan redan har patenterat den - man vill göra en så kallad nyhetssökning. Det första man gör då är att hitta rätt patentklass att leta i. Patentklasser är ett sätt att sortera patent baserat på vad de handlar om. Systemet som jag använder mest är International Patent Classification (IPC), ett hierarkiskt system som börjar med att dela in uppfinningarna i sektioner (fysik, kemi, elektricitet etc.), sen i klasser, sub-klasser, grupper, och sub-grupper, där varje nivå blir mer och mer specifik.

Min "uppfinning" är en hydroponisk odlingskruka med ett lock, minst två öppningar i locket där man kan placera odlingssubstrat, och en löstagbar skiljevägg som man kan placera inuti krukan för att dela in den i två separata sektioner. Skiljeväggen är kantad med en gummilist (lite som vad som visas här, fast med en löstagbar skiljevägg).

Kanske ser "uppfinningen" ut så här? Från craiyon.com.

När jag frågade ChatGPT vilka IPC-klasser jag ska använda för att hitta patent som handlar om hydroponisk odling gav den mig en lång lista. Samtliga hörde till sektion A (mänskliga förnödenheter), klass A01 (lantbruk), subklass G (hortikultur, odling av grönsaker etc.). Så långt verkar det alltså rätt. 

Sen kommer vi till så kallade grupper, och här är den inte lika träffsäker. A01G-07 är botanik i allmänhet och olika metoder för att främja tillväxt hos växter, men verkar inte ha med just hydroponik att göra. A01G-09 är odling i behållare, vilket verkar lovande tills man ser en notering i IPC om att hydroponik inte är inkluderat utan har sin egen grupp. Den gruppen är varken Chat-GPT:s förslag A01G-27 (sjävvattnande krukor) eller A01G-33 (odling av alger), utan A01G-31. 

A01G-31, som alltså är den relevanta klassificeringen, är med bland ChatGPTs förslag, men det är också flera andra klassificeringar som man inte egentligen behöver. Dessutom beskriver ChatGPT en av klassificeringarna fel när den upplyser mig om att A01G-27 handlar om att orsaka artificiellt regn fast det egentligen är en klassificering för självvattnande krukor. Vi har alltså råkat på vårt första fall av att ChatGPT hallucinerar.

Man kan också använda vanliga söktermer för att hitta viktiga patent, men lite beroende på hur avancerade sökverktyg man använder kan man riskera att missa dokument som använder andra ord för samma sak. Jag bad därför ChatGPT ge mig en lista på synonymer till "hydroponic planter" (jag chattade med ChatGPT på engelska, dels för att jag oftast skriver patent på engelska och dels för att den garanterat haft mer träningsdata på engelska än på svenska så det borde vara ett mer rättvist test). ChatGPT verkar vara rätt bra på att hitta synonymer, förutom de rätt uppenbara "aquaponic planter" och "soilless cultivation device" fick den också med sig "deep water culture planter", ett begrepp jag inte kände till sen innan.

Fler AI-hallucinationer dök upp när jag bestämde mig för att gå rakt på sak och be den ge mig exempel på relevanta patent. Den gav mig tre exempel på publicerade amerikanska patentansökningar. Alla tre existerar, men ingen av dem handlar om vad ChatGPT påstår att de skulle handla om och ingen av dem är ens i närheten av hydroponiska odlingar. US20190079141A1 handlar istället om att detektera magnetfält, US20210034667A1 om telekommunikation och US20190314660A1 presenterar en ny typ av skum till brandsläckare. Det hindrar inte ChatGPT från att påstå att de hade titlar som Hydroponic planter appratus, Hydroponic Growing Device, eller Hydroponic Cultivation Device and Method.

Rättspraxis

Även om vi konstaterar att vår "uppfinning" inte är patenterad sen innan kan det finnas andra saker som påverkar om den går att patentera eller inte. Det kan till och med vara så att vi behöver ta reda på rättspraxis i den jurisdiktion där vi vill söka patent. Jag har valt att utgå ifrån att vi söker patent vid Europeiska Patentverket EPO, mest för att det är den patentlagstiftning jag kan bäst. Jag har också lagt till två komplicerande faktorer.

Icke-tekniska delar av uppfinningen

Den första är att min "uppfinning" har en sensor som mäter vattennivån, kopplad till en display som visar en bild av ett visset blad när vattennivån blir för låg. Det där att den visar en bild är en presentation av information, vilket är exkluderat från att patenteras enligt Artikel 52(2) i Europeiska Patentkonventionen. Presentationer av information är exkluderade, tillsammans med vetenskapliga teorier, matematiska metoder, affärsmetoder och estetiska skapelser, för att de inte anses vara vad EPO definierar som teknik.

För det där med displayen har ChatGPT ett rätt bra svar:

I am an AI language model and do not have real-time access to current legal information... [disclaimers etc.]... That being said, while the presentation of information itself may not be patentable, if your hydroponic planter includes a technical solution or a novel and inventive aspect beyond the mere presentation of information, it could be eligible for patent protection in Europe.

Detta är i stora drag korrekt - om din uppfinning innehåller något som är exkluderat för att det inte räknas som teknik, som en presentation av information, tillsammans med saker som uppenbart är teknik, som sensorn och själva krukan, så kan uppfinningen som helhet fortfarande vara patenterbar. 

Emellertid bad jag den också hitta hänvisningar till rättspraxis och här blir det lite svajigare. Den hittar två existerande beslut från EPO, T641/00 och T 1227/05, som båda faktiskt är relevanta för att bedöma patenterbarheten hos uppfinningar som innehåller både tekniska och icke-tekniska delar. T641/00 är ett välkänt fall där de tekniska delarna av uppfinningen kombinerades med en affärsmetod. ChatGPT beskriver den som:

This case discusses the "COMVIK approach" to patentability of computer-implemented inventions in Europe and sets out the requirement for a technical character and technical contribution beyond the presentation of information. 

Kanske en aning missvisande eftersom den icke-tekniska delen i T641/00 var en affärsmetod och inte en presentation av information, men ändå rätt OK. 

T1227/05 är ett annat välkänt fall där en icke-teknisk grej, i det här fallet en matematisk metod, kombinerades med mer uppenbart tekniska delar i en simulering av elektroniska kretsar. Patentansökan som beslutet handlar om ägdes av företaget Infineon. Här är ChatGPT längre från målet när den skriver:

T 1227/05 (Hitachi/Cardiac monitoring): This case involves the patentability of a method for monitoring cardiac activity. It discusses the technical character of the claimed method and the distinction between technical and non-technical features.

Fel företag och fel sorts uppfinning alltså. Medicinska metoder är dessutom inte uteslutna för att de skulle vara icke-teknik enligt Artikel 52(2) i Europeiska Patentkonventionen, utan har sitt eget stycke under Artikel 53. De är, lite förenklat, uteslutna för att man inte ska kunna få patent som hindrar vårdpersonal att välja de behandlingsmetoder de anser vara bäst för patienten. En uppfinning som innehåller en sådan metod är aldrig patenterbar, även om det är i kombination med saker som annars skulle vara patenterbara. ChatGPT är alltså väldigt fel ute här.

Uppfinningen har presenterats tidigare

När jag kollade på ChatGPT:s försök att hitta rättspraxis slog det mig att det här med uppfinningar som innehåller både tekniska och icke-tekniska delar har varit omdiskuterat - och omskrivet - de senaste åren eftersom det är viktigt för bedömning av uppfinningar där man har med en dator av nåt slag. Det innebär att det antagligen finns många exempel på detta i ChatGPTs träningsdata. Skulle ChatGPT få ett sämre resultat för praxis som det är mindre diskussion om?

Som ett första test av den idén sa jag till ChatGPT att jag förklarat min uppfinning för potentiella affärspartners och i en presentation på en konferens, och frågade hur det påverkar patenterbarheten. ChatGPT svarade korrekt att det kan leda till problem för att exempelvis konferenspresentationen blir nyhetshindrande om den sker innan patentansökan lämnas in - uppfinningen är helt enkelt inte ny längre om man redan berättat för världen hur den funkar. Däremot plockar ChatGPT inte upp den potentiella skillnaden mellan att prata med affärspartners och att prata på en konferens (prata med affärspartners kan man göra i förtroende och i så fall är det inte en offentlig presentation av uppfinningen). 

Ett betydligt större misstag är att ChatGPT hävdar att om uppfinnaren själv presenterar uppfinningen och sedan skickar in en patentansökan inom tolv månader så räknas presentationen inte som nyhetshindrande. Det hade varit rätt i en del andra länder, t.ex. USA, men inte för EPO. EPO har mycket mer restriktiva bestämmelser som säger att om du presenterar din uppfinning på en officiellt erkänd internationell utställning så räknas det inte som nyhetshindrande om du sen skickar in din ansökan inom sex månader (Artikel 55 i Europeiska Patentkonventione, om nån undrar). 

ChatGPT genererade också tre referenser till rättspraxis på det här området, men den lyckades inte alls lika väl som med de icke-tekniska delarna. Två av de tre referenserna var till fall som existerar men inte handlar om rätt saker, och en av dem var helt påhittad.

Slutsatser

ChatGPT är ingen sökmotor, och det märks. Den kan generera svar som låter vettiga och även i viss mån är användbara, t.ex. genom att hitta rätt subklass (men inte grupp) i IPC och ge förslag på synonymer till olika begrepp. Däremot är den (än så länge) inte tillförlitlig när det gäller regler och bestämmelser eller att hitta relevanta dokument och rättsfall.

Jag tror att om man ska använda ChatGPT för att underlätta t.ex. nyhetssökningar så behöver den på något sätt kopplas ihop med en sökmotor, gärna en sökmotor som är specialanpassad för att hitta patent. Den är bra på att tolka frågorna den får och är rent allmänt mycket lättare att kommunicera med än ett konventionellt sökverktyg, så kanske kan den komma att fungera som ett användargränssnitt ovanpå ett annat system som är mer tillförlitligt när det gäller fakta.

*Jag tänkte inte försöka mig på att förklara hur GPT funkar, för det är egentligen inte mitt expertområde. För den som har cirka en halvtimme över kan jag istället rekommendera den här videon av Kyle Hill. Har man mer tid och vill läsa text istället finns också Stephen Wolframs "What is Chat GPT Doing... and Why Does It Work?", som ger en introduktion både till GPT och till maskininlärning i allmänhet (dock i kombination med upprepade påståenden om att ChatGPT måste kopplas ihop med Wolframs egna produkter för att bli riktigt bra).

Om AI och hållbarhetsmål

I veckan publicerade Nature Communications en artikel med titeln The role of artificial intelligence in achieving the Sustainable Development Goals. Den är skriven av en grupp på elva forskare inom ämnen som datavetenskap, ekologi och klimatvetenskap. (En av dessa forskare är Max Tegmark, vars bok Liv 3.0 jag skrev om i höstas.) Syftet med artikeln är att ta reda på hur utvecklingen inom AI kan påverka uppnåendet av FN:s sjutton mål för hållbar utveckling.

För att reda ut sambanden mellan utvecklingsmålen och AI har man gjort en gigantisk litteraturstudie där man letat efter olika typer av dokument - framför allt studier av AI-system i verkligheten och i laboratoriemiljö, men också rapporter från t.ex. FN och dokumentation av kommersiella tillämpningar av AI - som på något sätt knyter samman artificiell intelligens med något av hållbarhetsmålen. Man har sedan för varje delmål vägt samman de studier som talar för en positiv eller negativ effekt och försökt kvantifiera om den sammanlagda effekten på det övergripande målet är positiv eller negativ, eller om det finns både positiva och negativa effekter på olika aspekter av målet.

De sjutton hållbarhetsmålen å sin sida har delats in i tre grupper, de som är relaterade till miljö, de som är relaterade till ekonomi och de som är relaterade till samhällelig eller social hållbarhet. På miljösidan ser läget rätt positivt enligt den här studien, med tre hållbarhetsmål som skulle påverkas mestadels positivt av AI, mycket på grund av möjligheten att analysera stora mängder tillgänglig data på ett bättre sätt och därigenom kunna ta till bättre åtgärder mot problem. På minuskontot hittar vi här den potentiella miljöpåverkan av AI-systemen i sig, som kan bli rätt energikrävande och därmed eventuellt generera koldioxidutsläpp.

För de fyra ekonmirelaterade målen pekar artikeln på ett mer komplicerat läge. För de mål som handlar om tillväxt, infrastruktur och hållbar konsumtion är bilden ganska ljus, men när det gäller mål 10 som handlar om att minska ojämlikhet verkar det kunna påverkas både positivt och negativt. Riskerna här handlar om att fördelarna med AI antagligen blir tillgängliga framför allt för de som redan har stora ekonomiska resurser. På ett internationellt plan skulle det kunna leda till att rikare länder drar ifrån ännu mer jämfört med andra länder, inom länder kan det betyda att de som äger företag som drar nytta av AI och de som på ett eller annat sätt jobbar med AI vinner på utvecklingen medan de vars jobb automatiseras eller effektiviseras bort halkar efter i levnadsstandard.

För social eller samhällelig hållbarhet finns det nio mål, och här är bilden också mer komplicerad. För sådant som hållbara städer, rent vatten och hälsa är bilden mestadels positiv, men för målen som relaterar till fattigdomsbekämpning och utbildning finns tecken på både positiv och negativ påverkan och för jämställdhetsfrågor och frågor om rättvisa och stabila institutioner verkar informationen vara rätt bristfällig. Återigen är riskerna kopplade till hur AI-utvecklingen kan höja tröskeln till arbetsmarknaden genom att ta bort jobb men lägre utbildningskrav, men också till hur så kallad "big data" från sociala medier kan användas för att hitta människors psykologiska svagheter och använda dem för att manipulera beteenden.

Även om man säkerligen kan diskutera hur rättvisande metoden man använt i studien är ger artikeln ändå en fingervisning om var man kunnat upptäcka möjligheter och problem med tillämpningar av artificell intelligens. Risker som är kopplade till vem som får tillgång till AI och vems behov tekniken utvecklas för att möta dominerar helt klart på problemsidan, något som bekräftar en del av de farhågor som Tegmark själv presenterade i sin bok. Här finns också en koppling till de förväntade positiva effekterna på t.ex. miljösidan, för om de ska bli verklighet måste någon också utveckla AI som löser just de problemen. Om utvecklingen istället styrs enbart av exempelvis ekonomiska intressen kan de potentiella miljövinsterna med AI utebli.

Eftersom det här handlar om en litteraturstudie är det också viktigt att komma ihåg att alla möjligheter och risker som finns med är sådant som någon annan redan tänkt ut, studerat eller tillämpat. På vissa håll, t.ex. när det gäller rättvisa och jämställdhet, finns det uppenbara kunskapsluckor, medan sådant som att arbetstillfällen försvinner på grund av automatisering är välstuderat för att det fått så mycket uppmärksamhet. Det kan betyda den bild av effekterna av AI som presenteras i artikeln är snedvriden på något sätt - kanske finns det mycket större problem eller möjligheter på något område som inte studerats tillräckligt. Det är ju alltid svårt att veta vad det är man inte vet.

Osvuret är bäst? AI, principer och Hippokrates

Medan jag skrev om Max Tegmarks bok Liv 3.0 för ett tag försökte jag också hänga med åtminstone lite i diskussionen kring AI och etik i allmänhet. Bland annat snubblade jag över en artikel i The Guardian om hur AI-forskare, utvecklare och andra behöver en egen version av läkarnas Hippokratiska ed (om man letar lite inser man raskt att det finns fler som haft liknande idéer). Även Tegmarks bok innehåller om inte en Hippokratisk ed så väl en samling principer för AI-forskning som utarbetades gemensamt av ett stort antal deltagare på den av Future of Life Institute (FLI) arrangerade AI-konferensen i Asilomar 2017. Så vad innehåller de hör regelsamlingarna?

FLI:s AI-principer gäller sådant som forskningsmål och forskningskultur, men också ambitioner om säkra, transparenta AI-system som respekterar mänsklig värdighet och mänskliga rättigheter. Vissa av dem berör ett scenario med superintelligent AI, där man manar till försiktighet, riskmedvetenhet och att eventuell superintelligens bara bör utvecklas om det är till hela mänsklighetens gagn och inte enbart till nytta för en enskild stat eller organisation.

De andra försök till riktlinjer för AI-forskning och -utveckling som jag har sett verkar snarare vara en reaktion på de senaste årens insikter i hur de algoritmer som styr sociala medier påverkar oss, samt delvis på utvecklingen inom autonoma fordon. De delar en del teman med FLI-princinciperna, som t.ex. principer om att det ska gå att förstå varför AI-system fattar de beslut de fattar, men lägger större fokus på sådant som personlig integritet och arbete mot diskriminering. FLI-principerna innehåller också mycket fler inslag som anknyter direkt till den politiska sfären, t.ex. när det gäller forskningsanslag och vikten av forskningssamarbeten men också i ambitionen att den ekonomiska nyttan med AI ska fördelas "brett, för att gagna hela mänskligheten."

De flesta av de här principerna är lätta att hålla med om, åminstone för mig - det låter väldigt bra att undvika kapprustning med militära AI-system och att hindra att AI-systemen förstärker diskriminerande strukturer med sina beslut. Frågan är kanske snarare vad det har för effekt att man utarbetar sådana här riktlinjer, och hur man kan se till att de får genomslag när det inte finns någon organisation som kan se till att de efterlevs, åtminstone inte på global nivå.

En aspekt av detta är att hänvisningarna till läkarnas Hippokratiska ed är lite malplacerade. Även om det är en lockande tanke att AI-utvecklare skulle behöva gå ed på att de inte ska göra någon skada så är läkaryrket på de flesta ställen i världen ett rätt väl reglerat skrå och något man utbildar sig till på ett begränsat antal lärosäten. Det gör att en sammanhållen yrkesetik kan få genomslag och att man kan bestraffa de som bryter mot den. AI-utveckling, å andra sidan, kan man gå gratiskurser i på nätet och många, även bland de som arbetar professionellt med AI, är mer eller mindre självlärda. Det gör att gruppen av människor som forskar på och utvecklar AI är mycket mindre sammanhållen och svårare att kontrollera. Därmed inte sagt att etik inte borde vara en del av utbildningar i AI - så borde det definitivt vara - men jag skulle tro att man behöver en annan modell för hur det ska få genomslag.

Ändå finns det en chans att samlingar av nedskrivna regler eller principer har en normerande effekt bara genom att de finns och uppmärksammas. Att de finns innebär ju förhoppningsvis att en grupp människor satt sig ner och tänkt igenom och diskuterat vilka regler som skulle behöva gälla, och det kan fungera som en utgångspunkt för fler diskussioner. Eventuellt kan de också bli ett verktyg för att sätta press på företag och makthavare, som riskerar dålig PR om de bryter mot kända och brett accepterade principer för AI-utveckling.

Trots att FLI:s principer för AI-forskning blickar långt fram i tiden, mot superintelligent AI, känns diskussionen om AI-relaterade problem som är aktuella idag rätt yrvaken. Jag hoppas att den kommer att fortsätta, utan att överskuggas för mycket av de mer medialt tilltalande riskerna med superintelligens. Jag skulle också gärna se en diskussion kring människors inställning till maskininlärnings- och AI-system, t.ex. att vår tendens att se maskiner som opartiska kan leda oss fel om maskininlärningen utförts med skev eller icke-representativ data. Det kanske kommer att behövas en uppsättning principer för användare av AI-system också.

AI, etik och meningen med livet: funderingar kring Liv 3.0

För att programmera en vänlig AI måste vi fastställa meningen med livet.
                                                              -- Max Tegmark, Liv 3.0 

Vilken typ av utmaningar kommer vi att möta när maskininlärning blir vanligare inom sjukvård, rättsväsende och krigföring? Hur gör vi livet drägligt och meningsfullt om AI tar över alla jobb? Och vad skulle hända om någon utvecklade en AI med generell intelligens på mänsklig nivå - eller högre?

Den här typen av frågor tas upp i fysikern Max Tegmarks bok Liv 3.0, som kom ut på svenska 2017 men som jag inte kommit mig för att läsa förrän nu. Den omfattar åtta kapitel med ämnen som hur fysiska föremål kan byggas för att kunna minnas och utföra beräkningar, nära förestående utmaningar inom AI, intelligensexplosion med tillhörande framtidscenari
er, samt människors och maskiners målsättningar och frågan om hur man vet att någon är medveten. Boken ger en bred översikt över både artificiell intelligens och ett antal andra frågor som hänger ihop med AI och dess effekter. Tegmark lyckas också nyansera mediebilden av AI i flera avseenden och han är hela tiden noga med att påpeka när ledande experter är oense i någon fråga (som t.ex. hur lång tid det kommer att ta för oss att utveckla en artificiell intelligens som överträffar oss själva).

Ett avgörande syfte med boken är att lyfta diskussionen om de etiska, praktiska och samhälleliga problem som utvecklingen inom AI kan ställa oss inför. Tegmark tar upp frågor som dyker upp både på kort sikt, som AI-styrda vapen, medellång sikt (några tusen år), och riktigt lång sikt (miljarder år). Diskussionen förs mestadels utifrån attityden att generell artificiell intelligens på mänsklig nivå är något som kan utvecklas, och antagligen kommer att utvecklas inom överskådlig framtid (generell artificiell intelligens syftar här på ett system som flexibelt kan ta sig an många olika typer av problem, till skillnad från specialiserade AI:n som bara är bra på att spela go eller köra bil, medan "superintelligens" syftar på generell AI över mänsklig nivå). Även när det gäller våra nuvarande specialiserade AI, som AlphaGo eller algoritmer för självkörande bilar, är Tegmark tydligt imponerad. Just när det gäller självkörande bilar skriver han om dem som om de redan var verklighet, vilket jag tycker är lite väl optimistikt med tanke på hur begränsade dagens autonoma fordon ändå är. Även när det gäller maskinöversättningar med Google translate är han betydligt mer positiv än jag själv, fast det kan ju också bero på hur petig man är med språket.

Jag misstänker att Tegmark ser AI som en mer eller mindre naturlig fortsättning av livets utveckling. Namnet på boken pekar också i den riktningen, eftersom det syftar på Tegmarks klassificering av olika typer av liv som förklaras i första kapitlet. Liv 1.0 är organismer där både kropp och förmågor (som Tegmark jämför med hårdvara och mjukvara) är helt bestämda av genetiska förutsättningar och inte förändras under organismens livstid, medan liv 2.0 är organismer vars fysiska form är genetiskt bestämd men som kan lära sig nya förmågor och beteenden (exempelvis vi själva, som kan lära oss flera språk, att spela instrument och så vidare). Liv 3.0 är då liv som kan ändra både hårdvara och mjukvara, som ett AI som både kan lära sig nya saker och installera sig själv i en bil, ett flygplan eller nån mer avancerad robot alltefter behov.

En annan sak som har stor påverkan på hur de här frågorna läggs fram i boken är Tegmarks övertygelse, framlagd redan i första kapitlet, att medvetande är det som ger mening åt universum och att ett universum utan medvetna varelser är meningslöst. Ett scenario där AI aldrig lyckas utveckla medvetande blir då ett klart sämre scenario än ett där medvetna, intelligenta maskiner utforskar världsrymden långt bortom de gränser som sätts av vad den mänskliga kroppen tål. Det skulle kunna vara en kombination av synen på AI som nästa utvecklingssteg och synen på medvetande som meningsskapande som gör att kapitel 6, det om de riktigt långa tidsperspektiven, upptas så mycket av hur våra hypotetiska AI-ättlingar skulle kunna utvinna energi ur svarta hål och kommunicera över avståndet mellan galaxerna. (Om du ska läsa boken och inte tycker att just detta tema verkar intressant så går det alldeles utmärkt att hoppa över kapitel 6 och gå rakt på diskussionen om mål i kapitel 7. Är du däremot fascinerad av Dysonsfärer och liknande är det högintressant.)

Synen på medvetande slår också igenom i de sista två kapitlen, som handlar om vilka mål AI borde ha och hur man ser till att de har rätt mål respektive hur vi egentligen kan avgöra ifall ett AI (eller något annat synbart intelligent system) är medvetet eller ej. Det är här Tegmark drar slutsatsen att vi innan vi utvecklar superintelligent AI skulle behöva lösa några små filosofiska bryderier som vi tampats med sen före Sokrates: Otvetydiga definitioner av sådant som "mening" och "liv", klarhet i vad som egentligen är "det yttersta etiska imperativet" och naturligtvis frågan om vad medvetande egentligen är.

Jag skulle tro att den sistnämnda frågan är den vi har bäst möjligheter att göra framsteg med - eftersom medvetande är något som existerar är det åtminstone teoretiskt möjligt att vi kan hitta ett sätt att observera det och reda ut vad som krävs för att det ska uppstå. Etiska imperativ är det värre med, framför allt om man som Tegmark vill att de ska uttryckas i "fysiska kvantiteter såsom partikelarrangemang, energi och entropi". Tegmark medger visserligen att vi inte egentligen har någon anledning att tro att våra önskningar när det t.ex. gäller mänsklighetens överlevnad är förenliga med den typen av väldefinierade mål, men han har helt klart inte gett upp. För egen del anser jag att om vi måste veta vad livets mening är för att inte bli utrotade av superintelligent AI så är det ett av de bästa argument jag hört för att inte utveckla AI med superintelligens. (Jag hoppas återkomma till vissa saker som tas upp i de här kapitlen, samt delvis i epilogen, i en senare text.)

Liv 3.0 är en intressant och läsvärd bok, men beroende på hur mycket man delar författarens uppfattning om meningen med universum kan vissa delar kännas lite onödiga. Personligen är jag, även efter att ha läst den, mer bekymrad över vad vi människor kan åstadkomma med AI som inte är smartare än vi själva än över vad superintelligent AI kan ställa till med, men jag är glad att det finns sådana här böcker som lyfter frågorna och bidrar till bättre kunskap om vilka problem som skulle kunna uppstå.

Mer maskininlärning inom materialfysiken

For those who prefer to read in English, this post is also available on my other blog.

I ett tidigare inlägg kollade vi på en vetenskaplig studie där maskininlärning användes för att bestämma vissa egenskaper hos dopat grafén. En av mina tankar kring detta var att studien var lite otillfredsställande eftersom den visserligen visade att neurala nätverk kan tränas till att bestämma materialegenskaper, men inte innehöll några försök att förstå hur nätverket nådde ett visst resultat - trots att detta hade kunnat lära oss något både om nätverket och om dopat grafén som sådant.

Faktum är att i artikeln om dopat grafén refereras en studie där man har gjort just ett sådant försök, fast för en helt annan forskningsfråga. I artikeln, som är publicerad i Nature Communications, avhandlas problemet med en robust metod för att klassificera kristallstrukturer utan att använda en uppsjö av svårjusterade tröskelvärden och parametrar. Dessutom tillämpar de en metod för att undersöka vad som händer i det neurala nätverket.

Klassificering av kristallstrukturer låter i och för sig inte som det mest spännande problemet i världen, men inom materialvetenskap och kondenserade materiens fysik är det rätt viktigt. Många material är kristallina, d.v.s. de består av grupper av atomer som upprepas på ett regelbundet sätt. Att veta hur de här grupperna av atomer ser ut och vilka typer av symmetrier de uppvisar är viktigt för att kunna förstå, undersöka och modellera material - samt ibland för att ta reda på hur de kan användas och förbättras. Det är också en ganska långdragen process som lätt kan gå fel, exempelvis om det finns störningar i den mätdata man använder. Dessutom innehåller alla verkliga material man kan mäta på defekter, d.v.s. avvikelser från den struktur man försöker känna igen. I studien vi pratar om här är målsättningen att utveckla en robust klassificeringsmetod som kan hantera närvaron av defekter utan att det leder till felaktiga klassificeringar.

Första steget är att bestämma vilken sorts indata man ska använda. Detta är mer komplicerat än man kan tro eftersom det kan påverka klassificeringen - använder man t.ex. atomernas positioner relativt varandra rakt av så kan det leda till en större känslighet för vissa typer av defekter. Istället har man valt att använda diffraktionsmönster, som reducerar informationen om atomers positioner och relativa avstånd till varandra till ett antal prickar i ett bestämt mönster. (Om du minns diffraktionsmönster från fysiklektionerna i gymnasiet så är det här ungefär samma sak, fast med lager av atomer istället för diffraktionsgitter och elektromagnetisk strålning med kortare våglängd än synligt ljus.) Diffraktionsmönstren används som indata i ett convolutional neural network (CNN) med flera lager, som plockar ut karaktäristiska drag ur mönstret och sedan klassificerar det baserat på de karaktäristiska dragen. I den här studien visade tester av nätverket goda resultat även i fall där strukturerna man försökte klassificera inkluderade en stor andel defekter.

Det intressantaste med den här studien är dock hur forskarna valde att utvärdera sitt nätverk. Som vi nämnt i tidigare inlägg så kan man likna första lagret i ett CNN med att man jämför delar av en bild med en annan, mindre bild, och om de matchar varandra får man en positiv output. Output från den första omgången används sedan i ytterligare en jämförelse som plockar ut mer komplicerade drag, och så vidare. När man tränar det neurala nätverket justerar man de mindre "bilderna", även kallade filter, så att de svarar mot drag i inputbilderna som gör det möjligt för nätverket att göra en korrekt klassificering. Om det är nödvändigt att plocka ut igen räta linjer för att klassificera indata korrekt så kommer några filter att motsvara räta linjer, är prickar viktiga kommer några filter att motsvara prickar, och så vidare.

Detta innebär också att när det neurala nätverket är färdigtränat och används för att processa en bild så kommer det, efter många lager av jämförelser, att finnas en del av nätverket som representerar de drag som finns i bilden och som det neurala nätverket har tränats till att plocka ut och klassificera. Den här delen av nätverket skulle kunna visa på vilken information nätverket använder för klassificering av den aktuella bilden, men eftersom stegen innan är såpass komplexa är den också svår att tolka. Det är emellertid möjligt att plocka ut den här representationen av de utvalda dragen och gå igenom alla tidigare steg i nätverket fast baklänges. Denna process genererar en sorts bild som också visar vilka drag nätverket har plockat ut ur den ursprungliga bilden, men på ett sätt som är lättare att tolka. Genom att använda den här metoden kunde forskarna visa att det neurala nätverket automatiskt hade lärt sig att klassificera baserat på drag som människor också använder för att klassificera kristallstrukturer, som avstånd mellan plan av atomer.

Så vad är det som är så intressant med detta? För det första visar det på en metod för att kontrollera att nätverkets klassificering baseras på något som vi skulle anse betydelsefullt, och inte till exempel på någon typ av slumpmässigt brus som är mer vanligt i vissa typer av bilder än andra. För det andra pekar det på att man kan använda neurala nätverk inte bara för att klassificera data utan också för öka vår förståelse för den data vi klassificerar. Det är trots allt möjligt att nätverket kan plocka ut någon skillnad mellan olika data som vi inte omedelbart inser vikten av. Personligen anser jag att det är en bra strategi om man ska tillämpa maskininlärning inom fysik - att inte bara se hur man kan använda neurala nätverk, utan också varför det fungerar.