Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

Lönebesked

Vad händer med komp och semester när jag byter jobb?

0
Du har hittat ett nytt jobb och ska säga upp dig. Men vad händer med komp och semester som du har sparat? Här svarar Viktor Rosencrantz, ombudsman på Sveriges Ingenjörer.  

Vad är annorlunda med att vara chef i Sverige?

0
Hur upplever chefer från andra länder att det är att vara chef i Sverige? Så här svarar en ledarskapsexpert och fyra utländska ingenjörer som är chefer i Sverige.

Så här förbereder Chalmers för yrkesverksamma

0
Det nya omställningsstudiestödet ska göra det lättare för yrkesverksamma att bygga på sin kompetens. Men hur redo är högskolorna för detta?

Andreas ansvarar för beräkningarna av Nordens högsta hus

0
Karlatornet i Göteborg blir Nordens högsta byggnad och ska stå klar om två år. Ansvarig för beräkningarna av det komplicerade konstruktionsarbetet är civilingenjören Andreas Lindelöf, 34 år.  

Stressen ökar på Chalmers: ”Det märks att vi är färre”

0
Neddragningarna på Chalmers har fått konsekvenser för medarbetarnas arbetsmiljö. Facket får nu signaler om att arbetsbelastningen ökar och stressnivån blivit högre för de anställda.

Tre ingenjörer: Så blev vi egenkonsulter

0
Friheten att välja uppdrag att kunna styra över sin tid är två goda skäl att bli egenkonsult. Ingenjörerna Martin Lindahl, Tommy Oldebäck och Jerker Bergström delar med sig av sina erfarenheter.
Ingenjörsfullmäktige 2022

Lång debatt om kortad arbetstid

1
Hur radikalt ska Sveriges Ingenjörer vara i kraven på kortad arbetstid? På Ingenjörsfullmäktige blev det lång debatt om det, om lön och om matte i skolan.

More information for members in English

0
The annual congress of The Swedish Association of Graduate Engineers has decided to translate more information material for the members into English.
KTH

Färre tog ingenjörsexamen förra året

0
Nästan exakt 500 personer färre tog en ingenjörsexamen under det gångna läsåret jämfört med året före. Ändå var det många: 5 000 fler än i slutet av 1970-talet och 2 000 fler än i mitten av 1990-talet.

”Rejäla fakta när vi ska argumentera för våra löner”

0
Trovärdig statistik är ett av de viktigaste verktygen i den kommande löneförhandlingen. De två Akademikerföreningar som förra året var bäst på att skicka in sina svar var Arriver Software och Ljungby kommun.

INGENJÖRSKARRIÄR

VI REKOMMENDERAR

Kan jag bli tvingad att ta semester i jul?

1
Kan konsultföretag verkligen tvinga sina medarbetare att ta ut semester till jul? Ombudsmannen reder ut frågan.