Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

Arbetsmiljöverket backar: Skyddsombud får företräda enskilda

0
Skyddsombuden har rätt att företräda en individ. Det står nu klart efter det att Arbetsmiljöverket upphävt det beslut från 2021 som skapat en del förvirring i frågan.

Män tjänar allt mindre på en högskoleutbildning

0
Högskoleutbildning lönar sig allt mindre för män och särskilt i privat sektor. För kvinnor har lönsamheten däremot ökat de senaste 20 åren.

Bakgrundskontroller – därför kan du nekas jobbet

0
Ingenjören har intervjuat ToFindOut, ett företag som gör bakgrundskontroller. Vad letar de efter? Och vad kan var skäl till att inte få jobbet?

Huvudskyddsombudet ”Många känner stress av att aldrig bli färdig”

0
Huvudskyddsombudet Jan Åkesson vid Siemens har prisats för sitt arbetsmiljöarbete. Fokus är på att halvera antalet anställda i riskzonen för  utmattning.
Camilla Frankelius

Snart avgörs löneökningarna – vill ha maximal höjning utan att driva inflation

10
Nu går förhandlingarna om industriavtalet in på upploppet. Sveriges Ingenjörers inställning är att anställda ska få del av de vinster som företagen faktiskt gör.  

Så ger du feedback till chefen

0
Att ge feedback till sin chef kan vara både känsligt och riskabelt. Här är några tips på vad du bör tänka på för att din feedback ska falla i god jord.

Omställningsstudiestödet – så ökar du chansen att få del av pengarna

0
Planerar du att skicka in en ansökan om omställningsstudiestöd för hösten? Se då till att du undviker de vanligaste misstagen. 

Ingenjören Åke säkrar byggnader i jordbävningsdrabbade Turkiet

0
Vanligtvis undervisar Åke Solfeldt blivande byggnadsingenjörer vid tekniska högskolan i Jönköping. Men när Turkiet och Syrien drabbades av jordbävning släppte han allt för att delta i hjälparbetet.

Sök orsaker till stressen – sex faktorer att ha koll på

0
Oavsett vad som utlöser stress är effekterna desamma. De påverkar hur vi fungerar intellektuellt och därför behöver din chef hjälpa dig hitta orsakerna och åtgärda dem.

18 vanliga frågor på anställningsintervjun – så förbereder du dig

0
Varför söker du den här tjänsten? Det är den mest självklara frågan du kan förvänta dig på en anställningsintervju. Men det finns fler. Här är rekryterarens tips på hur du kan förbereda dig.

INGENJÖRSKARRIÄR

VI REKOMMENDERAR

Ska jag tacka ja till ett jobb fast jag hoppas på ett annat?

0
Vad gör jag om jag får ett jobberbjudande men hoppas på ett annat där beskedet dröjer? Ingenjören bad May Molin, rekryteringskonsult på Qrios Engineering, om råd.