Tema

Robotar behöver regler att hålla sig till

Vi måste skapa säkra regler när artificiell intelligens utvecklas. System av robotar eller intelligenta programvaror måste ha inbyggda bevakningssystem som ser till att delarna, de så kallade agenterna, bara gör det de har tillåtelse till. Det menar forskare i Gävle som jobbar med att reglera agenternas beteende.

Människan ska fortsätta att utveckla maskinerna och hålla dem i vår tjänst, men robotarna behöver regler att hålla sig till, säger Magnus Hjelmblom, forskare vid Högskolan i Gävle.

Utvecklare av system av robotar eller intelligenta programvaror har mängder av saker att ta hänsyn till. Bland annat krävs det vissa regler och ett inbyggt system för bevakning av att delarna, de så kallade agenterna, bara gör det de har tillåtelse att göra.

Utgår från algebra
– Min forskning handlar om att reglera agenternas beteende med hjälp av det jag kallar normer, vilket innefattar såväl oskrivna regler som formella regelsystem och lagar, säger Magnus Hjelmblom.

Det nya är att Magnus utgått från algebra och inte från logik som är det vanliga, och gjort det till ett instrument för att verkligen reglera beteendet på körbara system.

– Det är ett lite nytt angreppssätt och jag har utvecklat det från ett teoretiskt begrepp till något som är praktiskt användbart.

Visat att man kan skapa normer som är meningsfulla och som ger ett vettigt resultat. Algebraiska metoder är matematik i grunden och lämpar sig ofta väldigt väl för bearbetning på dator.

– Jag har utvecklat ett ramverk för att någon annan sedan ska kunna skapa en specifik applikation. För att exemplifiera så har jag också utvecklat ett antal konkreta program/applikationer som illusterar hur detta ramverk fungerar och används.

Simulerar evolutione
I ett av exemplen används en så kallad genetisk algoritm, som simulerar evolution för att utveckla något som bättre och bättre löser ett problem. Detta kan man göra dels genom att låta agenternas beteende styras dels av en enkel funktion som talar om vad agenterna vill göra och ett normativt system som talar om vad de får och inte får göra.

– Detta i kombination kan ge ganska kraftfull problemlösningsförmåga.

Maskiner får mer och mer att säga till om och blir mer och mer avancerade. Maskiner tar över allt mer av människans arbete exempelvis inom vården. Det är lätt att förstå vikten av att sådana maskiner har försetts med klara regler för vad de får och inte får göra.

Människan måste behålla kontrollen
– Så det blir så klart intressant att fundera på hur man kan reglera dessa artificiella agenters beteende.

– Maskiner är bra på många sätt och dem ska vi använda för att hjälpa oss. Men det är vi människor som ska fatta de avgörande besluten. Och vi ska utveckla bra hjälpmedel för beslutsfattare så att vi kan säkerställa att besluten blir så bra och rationella som möjligt.

Avhandling
Norm-Regulation of Agent Systems: Instrumentalizing an algebraic approach to agent system normslänk till annan webbplats, öppnas i nytt fönster vid Stockholms universitet 3 november. Handledare har varit professor Magnus Bohman, KTH, samt professor Jan Odelstad, Högskolan i Gävle.

KONTAKT

Magnus Hjelmblom, universitetsadjunkt i besluts-, risk- och policyanalys vid Högskolan i Gävle Telefon: 026-64 86 48 E-post: magnus.hjelmblom@hig.se

Vi finns där du är @forskningsnyhet

Robotar behöver regler att hålla sig till

 lästid ~ 2 min