Tidlig varsling med AI: Prototypen Q NEWS

Kan AI gi oss overmenneskelige varslingsevner? Hva har historien lært oss om tilnærming til ny teknologi? I denne studentoppgaven fra 2017, som bestod av en akademisk tekst og utviklingen av en prototype, ser vi nærmere på bruken av AI og annen spennende «ny» teknologi.

Varslingssystemet Q NEWS (National Early Warning System)

Pandemien har for alvor blåst liv i diskusjon rundt bruk av hjelpemidler som tar i bruk AI og ulike former for overvåking. Vi merker en klar økning av henvendelser og spørsmål om temaet. I det offentlige er det reist flere spennende problemstillinger. I den anledning børster jeg støvet av en studentoppgave skrevet høsten 2017 i faget Medietekknologi: teori og utvikling (MIX301) ved Universitet i Bergen, da den kan være av interesse for de som vil ha et lite dypdykk.

Oppgaven legges ut basert på et tidlig utkast, da den endelige utgaven har forsvunnet ut i det ukjente. For å bedre lesbarhet på nett er det lagt til enkelte animasjoner, bilder og videoer. Den inneholder enkelte faguttrykk og beveger seg inn i filosofi som pensum den gang satt rammevilkår for. Dette strider med beste praksis for å gjøre det forståelig («gjør deg forstått, ikke gjør deg smart»), men det lenkes og forklares der hvor det er behov.

(Ja, jeg ser også at bruken av navnet «Q» er noe spesielt i kjølevannet av veksten til QAnon. Q ble valgt som navn som en hyllest til Q fra James Bond. Jeg er altså ikke Q 🙂 )

Her kan du lese om:

  • Ny teknologi som AI, droner og chip
  • Problemstillinger sett i en historisk og filosofisk kontekst

OBS! Oppgaven ble vurdert til karakter B. Den har derfor et forbedringspotensial.



Forord

Bilde av Benjamin Franklin
Bilde av Benjamin Franklin

«Om du FEILER MED FORBEREDELSENE, DA FORBEREDER DU DEG PÅ Å FEILE«

– Benjamin Franklin

Sitatet tilhører Benjamin Franklin, det er et utsagn som passer godt for temaet kunstig intelligens og hva fremtiden her bringer. Teknologiutvikling hevdes å eskalere eksponentielt (McQuivey, 2013) og tiden vi har til å forberede oss på de konsekvensene kan bli farlig kort. Det krever at vi stiller viktige spørsmål om hvor vi er på vei. Mitt mål her er å gjøre nettopp det. Problemstillingen som vil gå igjen her er som følger: Hva skjer hvis vi overlater kontrollen av viktig samfunnsoppgave til kunstig intelligens? Snakker vi her teknologivarianten av Pandoras eske, eller er det løsningen på flere pressende utfordringer?


Eksponentiell utvikling av teknologi.
Eksponentiell utvikling av teknologi (kilde).

Nyre (2014) skriver at medieforskere bør konstruere sitt eget media. Han foreslår at medievitenskap kombineres med etablerte designprinsipper fra informasjonsvitenskap i forsøk på å skape nye og bedre medier. Det er denne tilnærmingen som her er valgt ved å lage en prototype av et informasjonssystem hvor kunstig intelligens spiller en vesentlig rolle. Med prototypen som utgangspunkt kan diskusjonen forhåpentlig tas fatt på med økt dybde og nyanser.

Prototypen jeg har utviklet til dette formål er til et tidlig varslingssystem. Q National Early Warning System (NEWS) er et system hvor kunstig intelligens lærer alle kjente kommunikasjonsformer – og ta avgjørelsen på hvordan du skal bli varslet hvis alvorlige situasjoner oppstår. Det viste seg raskt at et slikt konsept ga nye utfordringer. Det skaper nye perspektiv sett i sammenheng med førende teorier innen innovasjon, sosialkonstruktivisme, design, fenomenologi, ontologi og media. Jeg vil berøre flere av de teoriene, et par av de mer inngående.


Sammendrag

Oppgaven er del av et nytt masterstudium innen medie- og interaksjonsdesign ved Universitet i Bergen. Det forplikter. For å dra en litt flåsete og humoristisk vri på den berømte TV-serien Star Trek: Som kaptein Kirk i Enterprise reiser vi på modig vis dit ingen student har reist før.

Oppgaven går i tospann med en utviklet konseptuell prototype av varslings-systemet Q NEWS. Systemet er tenkt tilknyttet alle offentlige etater. I denne semesteroppgaven har jeg valgt å fokusere på systemets varslingsfunksjon.


Del 1: Innledning

Et velfungerende tidlig varslingssystem er et viktig ansvar myndigheter har for å sikre innbyggernes sikkerhet og verne landet mot ytre og indre farer. Slike system er ikke noe nytt, men fikk økt fokus etter den destruktive tsunamien i 2004 (ISDR). Konseptet Q NEWS vil potensielt bli et paradigmeskifte som kan gi Norge en ledende rolle på området. Et slikt system vil komme, det er bare et tidsspørsmål. Det er derimot mindre sannsynlig at det er det offentlige som vil utvikle det og det vil trolig ikke benyttes før alvorlige uhell er ute. Om vi skal følge førende innovasjonsteorier eller ta lærdom av historien. Med Q NEWS som utgangspunkt vil jeg her underbygge det synspunktet.  

For å best være rustet til diskusjonen som følger er det på sin plass med historisk kontekst. Da Norge i 1940 ble invadert av Tyskland ble det kjent som «musikkens dag» på NRK Radio (Halse og Østbye (2003)). Det var en dag preget av forvirring og handlingslammelse i flere av landets samfunnsinstitusjoner. Forsvaret, regjering og NRK var intet unntak. Mens nazistene seilte inn til våre byer, tidvis uhindret, ble det aldri et tema å benytte radioen til å varsle om den iverksatte alminnelige mobilisering og be nordmenn yte motstand ifølge Halse og Østbye (2003). Det NRK tilbød sine lyttere var musikk. Først da kvelden senket seg brøt en stemme inn. Stemmen tilhørte Vidkun Quisling, som varslet landet om at han var vår nye statsminister (Nesbø 2008). Kuppet var et faktum. Det var trolig historiens første statskupp utført ved bruk av radio.

Landssvikeren Vidkun Quisling anvende datidens nye media radio til å begå statskupp. Her avbildet i 1945. Fotogtaf: Ukjent
Landssvikeren Vidkun Quisling anvende radio, som var datidens nye media, til å begå statskupp. Regjeringen benyttet seg av brevpost, før talen spilte NRK musikk hele dagen. Her er Quisling avbildet i 1945. Fotogtaf: Ukjent

Dette er bare et av en endeløs rekke av tilfeller i menneskets historie hvor kjennskap – eller mangel på sådan – til nye medier og kommunikasjonsformer spilte en avgjørende rolle. Varsling handler ikke bare om å ha det beste og viktigste budskapet. Det handler om å nå først ut på forståelig vis. I 1940 feilet forsvaret, Nygårdsvoll-regjeringen og NRK-ansatte med dette sett i forhold til potensialet radio kunne tilby. Blücher ble senket, som ga mulighet for konge og regjering å flykte, men det ble ikke benyttet som anledning til å benytte radio til å informere om iverksatt mobilisering. De kan neppe bebreides, for mennesker er glad i vaner og det tar tid og kunnskap å lære et nytt media å kjenne (Gripsrud 2007). Årsaker til varslings-svikten i 1940 kan også forstås om vi vektlegger Winston (1998) teori om innen sosialkonstruktivisme som omhandler «lov om undertrykkelse av radikalt potensial» (figur 1).  

Law of Supression.
Figur 1: Winstons teori om «law of supression».

Han viser til hvordan innovasjon «bremses» av ulike samfunnsfaktorer. Et eksempel er hvordan konseptet telegrafi ble avfeid av det britiske militæret 1816, begrunnet eksistensen av semafor- og signalflagg. Det var først etter utviklingen av nye krigsskip, som anvendte dampmaskin-teknologi, at det gikk et lys opp for det britiske forsvaret at langdistansekommunikasjon kunne være greit å ha (Winston, 1998). Da fartøy ikke lenger baserte seg på tett formasjonskjøring, hvor fartøy gjerne var ute av «line-of-sight» (LOS) kom en økende interesse for det som da var blant siste nytt innen teknologisk utvikling (radio).


En jungel av kommunikasjonsformer

Communication

Flere av nåtidens dominerende medier og kommunikasjonsteknologier tok lang tid å fra idé til praksis, som underbygger teorier innen sosialkonstruktivisme. Vi fikk tid til å tilpasse oss, men anvendelsen og utnyttelse av potensial går tregt. Etter hvert har valgmulighetene blitt overveldende.

Her ser vi et økende dilemma innen kommunikasjon som Q NEWS akter å gjøre noe med. Vi får bedre teknologier, men samtidig økes valgmulighetene. Fra det som en gang stod mellom å sende et brev eller ta bena fatt, er dagens medielandskap et ganske annet. Økningen skyldes også at ny kommunikasjonsteknologi sjeldent erstatter eksisterende. Den supplerer. Semaforflagg og signalering er viktig del av sjøfartskommunikasjon den dag i dag, hvor også morse/signalering er nødvendig. Både av hensyn til elektronisk krigføring og sikkerhet (navigering i minefelt som eksempel hvor radiotaushet er essensielt). Radio erstattet ikke avis, TV erstattet ikke radio og Internett har fortsatt til gode å erstatte TV. Vi har telefon, men sender likevel fortsatt brev.

Antallet kommunikasjonsformer og medier øker og kompleksiteten deretter. Det blir mye for mennesker å holde styr over. Det er derfor ikke utenkelig at radioens eksistens i 1940 alt da ble «offer» for den økende mengden kommunikasjonsformer. På lik linje med hvordan søkemotorer som Google ble populær fordi vi trengte bedre verktøy til å håndtere den økende mengden tilgjengelig informasjon, spår jeg at vi i fremtiden vil behøve kunstig intelligens til å håndtere den økende mengden medier og kommunikasjonsformer.

Vi kan sammenligne dette med moderne tid. For pressen er problemstillingen en av lignende art. Forretningsmodeller og kommunikasjonsform ble opprinnelig formet rundt papiravis. Deretter kom radio, etterfulgt av TV. Vi snakker om «radiobransjen», «avisbransjen» og «TV-bransjen» med tilknyttet spesifikk kompetanse. TV 2-oppstarten ble eksempelvis beskrevet som vanskelig fordi det var mange «radiofolk» med som behøvde tid til å lære mediet (Syvertsen, T. & Sæther, S.Ø. 2002). Med Internett, et resultat av Arpanet som blant annet forsvaret så behov for og bidro til å utvikle sammen med universiteter, kom sosiale medier som Facebook, nettfora, Snapchat og Instagram. Det digitale landskapets demografi-grenser endres i økende tempo. Skal du nå unge i 2017 er Snapchat, Youtube og strømmetjenester viktig, for de eldre stiller lineærfjernsyn, papiravis og radio fortsatt sterkt. For et par år siden var det Facebook som dominerte blant ungdom, før foreldre og besteforeldre «flyttet inn» der med tilhørende endring i demografi (TNS 2016). Sosiale medier er som utesteder. De unge finner sine favoritter og blir der. Men det øyeblikket foreldrene kommer innom, flytter de over på nye plattformer. Et behov oppstår og innovative løsninger omfavnes.

Medieteknologi opp gjennom årene.
Figur 2: Tidslinje som viser ulike kommunikasjonsformer fra oppfinnelsen av skriftspråk (tidslinjen visualiserer eksponentiell utvikling).

Dette er utvikling som har funnet sted i det Harold Innis (1951) beskriver som den tredje og fjerde medie-epoken, som startet med elektroniske medier på 1830-tallet og mobile kommunikasjons-nettverk på 40-tallet. Det har medført en eksplosjon i kommunikasjonsformer på kort tid i den store sammenheng. Det tok over 4000 år fra skriftspråk til boktrykkerkunsten med aviser og bøker, kun tiår mellom telegraf, telefon, radio og TV etter elektroniske mediers inntog (1830). Etter Internett dukker det opp nye aktører og formater, spesielt innen sosiale medier. Twitter sørger for å gi presidenter direktelinje til folket, til glede og frustrasjon, mens voksne fortsatt sliter med å forstå de unges nye vaner innen «instant messaging» som Snapchat.

Om kunstig intelligens tildeles ansvar for å kommunisere kan epoken gå over i et nytt gir. Innen innovasjon beskriver Rogers (1962) ulike adopter-kategorier (figur 3). Konseptet med kunstig intelligens og dens anvendelse kan nok nå sies å være i det Rogers beskriver som «early adopters» eller «early majority» fasen med ulike smartløsninger og økende anvendelse av systemer som Microsoft Azure og IBM Watson. En utvikling av Q NEWS vil sies å være en «early adopter» som kan være til god nytte for samfunnet. Det vil gi nasjonen en fordel kontra land som blir «early majority», «late majority» eller «Laggards». I et militært perspektiv har dette vært en drivkraft, hvor atomvåpen gjerne er det mest kjente eksempelet. Et mer relevant eksempel innen kommunikasjons er nok Napoleons le systeme chappe, et semafor-telegrafsystem som ble et «mekanisk Internett» som strakk over hele Frankrike fra sin første vellykkede test i 1792. Napoleons evne til å koordinere styrker og imperium overgikk andre land. Det var i effekt et tidlig varslingssystem som ga militære fordeler, i tillegg til å bedre sikre imperiets infrastruktur.

Fire adopter-kategorier
Figur 3: Fire adopter-kategorier

Min tese er at et varslingssystem styrt av kunstig intelligens vil bli overlegent eksisterende løsninger og kan få samme effekt som le systeme chappe, radio og verdensveven. En utvikling jeg ikke forutså før jeg bega meg ut på systemet er dets radikale potensial til å selv bli en innovatør.


Hvorfor varsling styrt av kunstig intelligens er nødvendig

Har du et budskap i dag er mulighetene overveldende. Skal du «tweete», sende det i lukkede grupper på facebook eller er en Youtube-video veien å gå? For kommersielle aktører er det et spørsmål om hvor det er penger å hente. For et tidlig varslingssystem er det heldigvis faktorer som kan ignoreres når inntjening ikke står i fokus, men det endrer ikke det faktum at flere av utfordringene forblir de samme.

Det blir problematisk når nødvendig kompetanse ikke er til stede i avgjørende øyeblikk, det være seg militære operasjoner, redningsarbeid eller øvrige viktige informasjon som angår rikets sikkerhet skal nå landets innbyggere. Det kan forenkles og varslingssystem bygges rundt kun et par av de dominerende formene, men det skaper dårlig dekning i et stadig mer fragmentert medielandskap. Du kan øke mengden kommunikasjonsformer systemet støtter, men det igjen krever kompetanse og oversikt som gjerne overgår menneskelig kapasitet. Det er her Q NEWS kommer inn som en løsning som er ment å overkomme faktorer som «loven om undertrykking av radikalt potensiale», manglende kjennskap til mediets egenart eller mangel på ressurser, oversikt eller kompetanse.

Bruken av kunstig intelligens innen varslingssystemer er ikke nytt. NewsConsole er eksempel på en plattform som leser gjennom alt av medisinske journaler for å finne de nyeste behandlingsformene, slik at leger alltid er oppdatert ved behandling av pasienter (De Ruijter 2016). Diskusjon om når kunstig intelligens bearbeider og kategoriserer informasjon er velkjent, det som ikke er like omtalt er når kunstig intelligens gis oppgaven å ta valg rundt formidling. Q NEWS overtar dette ansvaret fra mennesker, det imøtekommer et økende behov og kan innovere kommunikasjonsbransjen. Konsekvensene av dette er noe vi for alvor bør diskutere.  


Del 2: Q NEWS

Den diskusjonen tas her, men først en mer detaljert beskrivelse av hva Q NEWS er.

I praksis

Q er et komplett informasjonssystem som innhenter, bearbeider og sorterer informasjon. I denne oppgaven avgrenses vi oss til Qs varslingsmekanisme Q NEWS som har som mål å få informasjonen raskt frem til mottager på en forståelig måte.  

Q NEWS avgjør ved hjelp av kunstig intelligens hvordan hver enkelt mottager skal varsles. Dette gjøres ved hjelp av kognitiv databehandling, som er kjernen i alt Q NEWS foretar seg.

Hvordan det avgjøres at varsling skal ut er en prosess jeg ikke går nærmere inn på her, annet enn å påpeke at kunstig intelligens også her kan spille en faktor. Det kan også være så enkelt at en ansvarlig person gir systemet signal om å igangsette varsling. Meldingen er enten at mottager er i fare, landet er i fare eller andre er i fare – som vedkommende enten kan varsle eller bistå med.

  • Mottagere er her alt fra en gruppe mennesker til enkeltindivid, avhengig av situasjonen.
  • Grupper er enten basert på yrke (politi, militær, helsevesen o.l.) eller kan være mennesker som befinner seg innenfor et gitt geografisk område.

Begrepet kognitiv er knyttet til erkjennelse, tenking og oppfattelse. Komplekse datasett bearbeides for å finne de beste løsninger på systemets oppgave. I konteksten «varsling» handler det om at systemet lærer seg hvordan de ulike mottagerne best kan nås i det øyeblikket et varsel går av og er i stand til å benytte de ulike kommunikasjonsformene. Q NEWS skal ikke gi seg før informasjonen er nådd dets mottagere.

I tråd med målet om å være mest mulig forberedt forsøker jeg å forutse systemets radikale potensial. Uttalte erfaringer tilsier at et slikt system kan lære seg å anvende alt fra SMS til å signalere ved hjelp av lys (morse). Et eksempel på dette har Google informert om i en annen sammenheng; Programmet AlphaGo Zero, som ble skapt hos Googles Deepmind-avdeling, behøvde bare tre dager på å opparbeide seg samme kunnskap om brettspillet Go som mennesker har brukt tusenvis av år på (The Guardian 2017).Systemet oppnådde dette ved å starte fra null, kun gitt kunnskap om hvordan spillets regler er. Dette er en ny tilnærming til kunstig intelligens, hvor system lærer med blanke ark som utgangspunkt. Tidligere system brukte eksisterende menneskelig spillhistorie til å lære. Nå fjernes begrensninger som følger av menneskelig kunnskap.

Slike kognitive systemer har som formål å være universelle i anvendelse, det vil si at prinsippet skal kunne anvendes på andre områder enn brettspill. Det er her konseptet rundt Q NEWS oppstår. Systemet lærer seg gitte «regler» for de ulike kommunikasjonsformene og anvender de som brikker på et spill. Et fungerende system vil i så måte kunne sies å nærme seg det Krippendorff (Nyre 2014) beskriver som å designe et artefakt som bidrar til et «demokratisk levesett».

Systemet kan i teorien også få tilgang til eksisterende datasett om folks vaner og preferanser. Den vet også hvilke demografier som eksempelvis foretrekker de ulike sosiale medier basert på tilgjengelige statistikker. Den kan også gis tilgang til lokasjoner, innbyggernes siste registrerte informasjon og rent personlige brukervaner der dette er offentlig tilgjengelig – eller gitt tilgang til via eksisterende lovlige former.

Prosessen:

Q News. Foto: Envato

  1. Q NEWS blir instruert om å sende om varsel og hvem som skal varsles.

  2. Q NEWS vurderer hvilke kommunikasjonsformer som skal benyttes.

  3. Varsling iverksettes.

  4. Q NEWS følger opp at varsling er mottatt og forstått.

  5. I tilfeller hvor varsling ikke når frem utforsker Q andre muligheter.

Dette eliminerer i teori det som utgjør «loven om undertrykking av radikalt potensiale». Q NEWS rammes ikke av «loven», den er ikke tynget av sosiale faktorer, menneskets vaner og uvaner eller manglende kunnskap og erfaring. Når varsling er gått av har den en oppgave og det er å sørge for at meldingen kommer frem og blir forstått.

Systemet vil introdusere et nytt «gir» og kanskje også et nytt «budskap», hvis vi skal følge teorien til den anerkjente filosofen og professoren Marshall McLuhan (1964) om at «the medium is the message». Marshall McLuhan beskrev lignende utviklinger som «for budskapet til ethvert medium eller teknologi er endringen av skala eller fart eller mønster som introduseres til menneskelige affærer». Følger vi McLuhans teori vil et system som Q NEWS påvirke eksisterende menneskelige «funksjoner». Gitt systemets radikale potensial vil dette kunne ha store ringvirkninger. 


Fenomenologi og varsling

Q NEWS skal også utforske mulighet for å benytte kroppen i økende grad. Her beveger vi oss inn på teori om fenomenologi. Kroppen vår har alt flere varslingsmekanismer. Høy puls, smerte-følelser og nervøsitet blant annet. Q NEWS kan tilegne seg kunnskap om temaet fenomenologi, som er studien av et individs subjektive engasjement med omverden. For at en varsling skal fungere behøves det kjennskap til menneskets oppfattelse. Varslinger i dag er rettet mot hjernens kognitive sans, noe som også er et dominerende interesseområde for forskere innen kunstig intelligens. Filosofen Merleau-Ponty hadde en annen tilnærming ved å hevde at det er kroppen som forstår.

Det er en interessant tilnærming. Oppfattelse består i å se, høre, lukte, smake, berøre, håndtering og bevegelse. Kroppen er midt i et «prosjekt» og en varsling vil påvirke. Q behøver å forstå slike faktorer for best å være i stand til å levere korrekt varsling. Professor i kommunikasjon Paddy Scannell har påpekt hvordan «care structures» innen media har som formål å tilby blant annet komfort og glede. Det er en umiddelbar konnektivet (Scannel 2014), møysommelig arbeid som i en fotballkamp kan involvere kommentatorer, journalister, aktørene (spillere/trenere) og en behørig forberedelse. En spennende øvelse ville vært å sette slike prosesser i Qs maskinlæring og se hvordan det påvirker valg av varslingsmetode og format. Hvis det handler om å få noen ut av en brennende bygning er det til liten hjelp om varslingen er et format som gir vedkommende panikk

Et velfungerende Q NEWS vil bli det Don Ihde (1990) beskriver som en utførelsesform («embodiment»), en teknologi som gjør individet i stand til å gjøre ting som ellers ville vært umulig. I praksis et «radikalt potensiale». I dette tilfellet å få en «sjette sans», en lynrask varsling som tidligere bare var ansett mulig i ren fiksjon – som ved Spider-man og hans «edderkopssans» som advarte mot farer på magisk vis ved det superhelten beskrev som «kribling». Denne sansen kan med Q NEWS simuleres, eksempelvis ved bruk av et implantat under huden som er koblet til nett. Om Q NEWS varsler fare kan brukeren i teorien gis en mild skjelving ved å benytte lignende teknologi som innen det Brain Stimulation (DBS) fjerner skjelving hos Parkinson-pasienter. Lignende egenskaper kan gis ved «wearables» som armbånd eller telefon, hvor en distinkt vibrasjon blir brukerens varsling.

Videre kan Q utnytte nyvinninger innen andre «wearables» som hololens og VR. En varsling som gir ytterligere informasjon via skjerm, eksempelvis Q sitt integrerte kart, er det Ihde beskriver som hermeneutiske relasjoner og noe som i dag gjerne er del av en vane. En mer nyskapende varslingsform er en hvor Q iverksetter interaksjon gjennom et hologram-apparat som hololens eller ved bruk av VR, eksempelvis for å vise farlige områder innenfor synsvidde. AR-funksjon i eksempelvis en telefon kan gi umiddelbar varsling hvis kameraet viser bygninger man bør unngå, farlige personer eller gjenkjennelige farlige objekter som våpen.

AR kan ved bruk av telefon eller smartbriller vise en etilpasset virkelighet. Her gis det «liv» til noe basert på et skjelett, samme teknologi kan anvendes til å vise eksempelvis «røde soner» i området du beveger deg i.

Del 3: Diskusjon

Vil vi ha Q NEWS?

«Lærer den…informasjon om meg?» I den kritikerroste komiserien Parks And Recreation er det en scene hvor seriens rollefigur Ron Swanson stiller spørsmålet, etter at han blir utsatt for kontekstuell annonse som både vet navnet hans og hva han kan være interessert i å kjøpe (NBC 2011). Assistenten forklarer han om hvordan informasjonskapsler fungerer og følger sarkastisk opp. «Om du tror det er ille, gå til Google Maps og skriv inn adressen din». Ron Swanson gjør nettopp det. Da han ser hva som kommer opp på skjermen reagerer han like godt med å hive hele datamaskinen i søppelet.

Den fiktiv Ron Swanson illustrerer skepsisen mennesker har til å bli overvåket. Dette er en av flere problemstillinger vedrørende et system som Q NEWS og om det er noe som vil medføre en brems for utviklingen av et slikt system, i hvert fall i offentlig regi, er det nok dette som vil bli mest gjeldende. For å være mest mulig effektiv kan vi nok anta at Q NEWS bør har tilgang til mest mulig informasjon om deg, for å lære dine vaner, hvor du er og hvordan du best kan nås.

Et av de sterkeste argumentene mot å anvende Q NEWS er det kjente sitatet fra Benjamin Franklin. «Den som ofrer frihet for sikkerhet fortjener ingen av delene». Personvern og retten til privatliv er viktige faktorer i et moderne demokrati. Om Q NEWS skal anskaffe seg tilgang til slik informasjon, selv med edle motiver, ender vi i en diskusjon som har pågått i flere år vedrørende Datalagringsdirektivet, som ble stoppet i EU (NRK 2014), eller det pågående overvåkingsprogrammet til NSA i USA. Det er verdt å bemerke at Franklin-sitatet er forenklet og tatt ut av sin sammenheng, det handlet opprinnelig om eiendomsskatt for å få midler til et forsvar mot invaderende franskmenn og amerikanske innfødte. Det Franklin ønsket var mer midler til et forsvar. I så måte kan sitatet – i dens rette kontekst – paradoksalt nok benyttes som et forsvar av at Q NEWS er nødvendig da det er ment som et forsvar.

Av hensyn til privatlivets fred og personvern er det likevel nødvendig å ta øvrige argumenter alvorlig. EU domstolens avgjørelse vedrørende datalagringsdirektivet fremstår som velbegrunnet. Dette vil være innenfor det sosiologen David Lyon (2010), som forsker på temaet, anser som overvåking. Eksistensen av et slikt system berører Panopticon-systemet til Jeremy Bentham som ble bygget på 1700-tallet (McMullan,2015). Når personer blir klar over at det kan være de blir overvåket kan det medføre en endring i oppførsel. Om vi i det hele tatt kan sies å være fri med vissheten om et slikt system er heller tvilsomt. Problemstillingen er også aktuelt vedrørende droner, hvor innbyggere i områder med jevnlige drone-angrep får en helt annen hverdag og psykologisk ramme på hverdagslivet. Hvor legitim sammenligningen er kan diskuteres, da det også påpekes at folk ikke er klar over at de blir overvåket (McMullan,2015), i motsetning til Panopticon hvor det ble benyttet for å korrigere adferd.

Et argument for Q NEWS er at systemet kan designes slik at det kun er den kunstige intelligensen som får tilgang til informasjonen på en måte som er uforståelig for mennesker. Faren for kompromittering reduseres dermed og privatlivet kan enklere vernes om. Her beveger vi oss over på en komplisert og teknisk diskusjon som jeg lar ligge, for det krever designløsninger som i seg selv er omfattende og behøver testing. Det anses som rimelig å anta at Q NEWS vil få begrenset tilgang til informasjon, nettopp av hensyn til eksisterende lovverk. Dette kan påvirke systemets effektivitet, men det blir spekulasjon inntil en fungerende prototype er klar for testing og evaluering. Det er ikke utenkelig, i tråd med McQuiveys teori, at et slikt system alt er på plass i privat regi før myndighetene i det hele tatt vurderer å lage det.

For «virkelighetens Ron Swanson» er dette del av en større trussel, det kan godt tenkes likesinnede ville sagt seg enig med den omstridte filosofen Martin Heidegger advarte mot. Han beskrev moderne teknologi som en dystopisk «kraft sterkere enn hva mennesket kan forestille seg» (1954). Å tilegne en teknologi slike egenskaper gikk ikke upåaktet hen. Hans synspunkt er også et som til dels har preget populærkulturen med filmer som 2001: A Space Odyssey, Terminator og TV-serier som The 100 og Westworld. De involverer alle kunstig intelligens som fortellingens antagonist som gjør opprør.

Marshall McLuhan (1964) påpekte slike fordommer mot teknologi. «Vi er for ivrig til å gjøre teknologiske instrumenter til syndebukk for syndene til de som bruker de. Produktene av moderne vitenskap er ikke i seg selv god eller dårlig; det er måten de blir anvendt på som avgjør dens verdi». Jeg deler McLuhans syn her, alternativet med å unngå å utvikle moderne utvikling er en naiv tilnærming som ignorerer menneskets natur og ønske om å oppdage og løse utfordringer. Vi er oppfinnere, det å anvende verktøy er hva som i stor grad definerer det å være menneske. Deler av Heideggers beskrivelse av moderne teknologi minner om å gi objekter egenskaper utover de rent funksjonelle. Som ringen i Ringenes Herre-trilogien, som på magisk og uforklarlig vis forvandler selv de mest viljesterke til noe umoralsk og ødeleggende. Heideggers teori kan kanskje anvendes om kunstig intelligens utvikler egen «moral», som med Facebooks system (Gershgorn 2017), men enn så lenge gir Heidegger inntrykk av å gi objekter «magiske» egenskaper og «makt» over mennesker.   

Vi kan gå enda lenger tilbake i tid til et av de største paradoksene hva gjelder «fordommer» McLuhan påpeker. Vestlig filosofis «grunnlegger» Sokrates skal ha vært preget av en skepsis til «nyere» kommunikasjonsformer. Han skal ha vært motstander av skriftspråket. Det er noe ironisk over det, da det heller er tvilsomt at vi ville visst om Sokrates hadde det ikke vært for at hans elev Platon nedskrev samtalene.

Det blir fort enkelt å ta forbehold mot slike systemer, noe som i seg selv blir et problem. Det er forståelig at hensyn som personvern spiller inn og frykten for overvåking melder seg. Samtidig holder ikke dette hvis det viser seg at en for restriktiv holdning i seg selv leder til fatale konsekvenser for samfunnet, innbyggernes sikkerhet og demokratiske verdier. La oss holde fast i radioens manglende anvendelse i 1940 som eksempel. McLuhan påpekte det som gjerne kan tolkes som en positiv effekt av radio. Hvordan den brakte oss inn i «the global village», ut av århundrer med kald, analytisk boklesing.

Med et velfungerende AI-styrt system kan eksisterende aktører bli utkonkurrert av dette nye. Utvikling av Q NEWS handler også om å være konkurransedyktig overfor aktører som vil skade demokratiet (perspektivet til militært eller politi), ruste oss mot naturkatastrofer og sykdommer (perspektiv til helsesektor) og øke innbyggernes generelle sikkerhet (personlige perspektiv). Det er viktig å her påpeke hvor enkelt mye av dette kan lages. Med en gratisløsning som WordPress, et publiseringssystem opprinnelig laget for blogging, kan selv en tenåring med litt ekstra interesse skape et komplekst system grunnet plattformens muligheter til å benytte innstikk. Dette er tilleggsfunksjoner bygget av et stadig voksende utviklersamfunn, enten for å gi bort gratis eller selge. Det er mye som peker på at McQuivey er inne på noe, at utvikling og innovasjon har skutt fart.

Likeså vil det ikke forundre meg om et system som Q NEWS dukker opp, gjerne i privat regi, hvis moderne kunstig intelligens blir enda mer tilgjengelig. I skrivende stund er det mulig å bygge et system som kan analysere og kategorisere bilder, strømme video, benytte datasyn for tekst-til-tale, bli stemmestyrt og automatisk hente inn informasjon gjennom å skrape andre nettsider. Brukerkontoer kan opprettes og gis ulik tilgang til systemet, eksempelvis basert på sikkerhetsklarering eller rolle/yrke. Det eksisterer innstikk med kunstig intelligens som kan administrere tilganger, analysere skreven tekst og kommer med tips til forbedringer og mulighet til å koble opp mot alle eksisterende sosiale medier og utveksle brukerdata. Innstikk som benytter seg av kunstig intelligens som IBM Watson og Microsoft Azure er nå også tilgjengelig.

Mye av det som ble ansett som «science fiction» for få år siden er nå en reell mulighet. På Universitet i Bergen jobber studenter alt med prototype for system som gjenkjenner og forstår videostrøm, vekkerklokke som lærer hvordan personer best kan vekkes, smartbriller som gjenkjenner personer og sikkerhetssystem som gir tilgang basert på ansiktsgjenkjennelse og biometriske funksjoner (UIB Mixmaster, 2017). Informasjonssystem som Q NEWS er fullt mulig å lage med alle tenkelige kommunikasjonssystemer integrert, i tillegg til å anvende lignende funksjonalitet som i nevnte prototyper. Det å sende SMS, ringe, maile eller chatte med fra et kontrollpanel kan en 15-åring i dag få opp og gå. Et slikt system vil åpenbart ikke være like robust, sikkert og velfungerende som et laget av eksperter fra bunn av. Det er heller ikke poenget her, det er å påpeke at et slikt system er mulig å lage med få tilgjengelige ressurser. Den manglende brikken er kunstig intelligens som lærer å anvende alt dette.

I innledende arbeid med konseptuell prototype for Q NEWS var det nærmest en åpenbaring hvor mye som kan lages med få ressurser og lite tid. Dette er i tråd med McQuiveys (2013) påstand om at avstanden mellom idé til digital realisering er så kort, billig og rask at selv en 12-åring kan gjøre det. Konkurrerende innovasjon kommer så raskt at det skaper en ny type skala og fart. Hvor enkelt dette var erfare jeg selv ved konstruksjonen av en konseptuell prototype med WordPress som grunnlag. Det var så mye som var mulig å koble sammen at det i seg selv ble den største fartsdumpen. Med videre utvikling vil det meste av kommunikasjonsløsninger være på plass med forholdsvis få resurser tilgjengelig. Dette er også i tråd med professor Jonathan Zittrains (2007) teori om «generativity», løsninger som Wikipedia og WordPress som tillater at dets brukere kan innovere og dermed øker muligheten kontra lukkede systemer. Det er i praksis tusenvis av utviklere som jobber med slike løsninger prototypen Q NEWS kan sies å være et laget av flere, en form for «crowdworking» som gjør at komplekse systemer nå kan utvikles på gutterommet. Mitt bidrag er å pusle ulike biter sammen.

Vi kan gjerne dvele om vi bør få slike system, men sannheten er at det toget alt er på full fart. Slike systemer vil komme og det er opp til oss å sørge for å være forberedt på konsekvensene. Utvikling av Q NEWS handler ikke utelukkende om å skape et system for optimal tidlig varsling, det handler om å tilegne seg erfaring og skape et system som potensielt selv kan bli innovativ og utviklende. Det handler like mye om forberedelser på hva som er på vei.


Innovasjon til neste nivå?

Superheltfilmen Iron Man har etiske problemstillinger rundt AI og ny teknologi som drivkraft.

Diskusjon vedrørende konsekvenser av slik moderne teknologi og i hvor stor grad vi er villig til å anvende den er, som vi har vært inne på, omfattende. Jeg vil rette fokus på et annet og minst like viktig tema som nå er blitt mer reelt å diskutere: Konsekvens av at kunstig intelligens gis kontroll.

Det interessante er hvilke resultater maskinlæring vil gi. Når skal systemet anvende SMS? Når er e-post mer effektivt? Vil systemet, som i tilfellet med systemet som laget et nytt språk (LaFrance 2017), lære nye kommunikasjonsformer systemets designer ikke har forutsett? Kan systemet ende opp med å lage nye medier?

Vi er nå midt i en diskusjon som i større grad er passende for Kaptein Kirk-analogien, for her er det mye upløyd mark og teori. Kan kunstig intelligens bli innovativ?

Liang (2017) påpeker hvor viktig spørsmålet rundt innovativt kunstig intelligens er, fordi det kan ha betydelig påvirkning på alt fra utdannelse til økonomi og politikk. Et slikt system vil i praksis medføre at kunstig intelligens og den som styrer systemet er i kategorien innovatør. Da må i så fall kategoriseringene til Everett Rogers tilpasses til å inkludere maskiner. Dette berører også Nyres (2014) distinksjon mellom design og innovasjon. Hvor førstnevnte best knyttes til oppfinnelse – det å skape noe nytt eller komme opp med en ide uavhengig av hvordan oppfinnelsen presterer i markedet – mens innovasjon er en mer kompleks politisk og økonomisk prosess. Om Q NEWS ville endt opp med å skape et nytt medium, ville det da vært innovativt? Her beveger vi oss inn på uforutsette og krevende problemstillinger som ikke nødvendigvis fanges opp av førende teorier innen innovasjon. Dette motiverer for ytterligere til å arbeide med prototyper som Q NEWS og følge med på utviklingen av lignende løsninger.

Denne «kampen» om teknologiutvikling har til nå vært en arena forbeholdt mennesker, ikke maskiner. Et potensielt innovativt Q NEWS blir i så fall en ny aktør på markedet. Det blir det ikke nødvendigvis selskaper eller etablerte aktører bør frykte. Her har bransjer alt fått erfare hva det vil si å bli utkonkurrert av aktører fra andre bransjer. Facebook ble ikke funnet opp av kommunikasjonsbyrå, bibliotek-bransjen skapte ikke Google og bloggfenomenet ble ikke funnet opp av pressen. Leksikonbransjen er kanskje det mest åpenbare eksempelet, som ble utkonkurrert av gratistjenesten Wikipedia. Selskaper har i økende grad tatt inn over seg dette, som i tilfellet Netflix som klarte å gå fra DVD-leie via post til strømming. Men selv slike tilpasningsdyktige selskaper får det tøft i møte med kunstig intelligens hvis slike systemer virkelig blir innovative og skapende i større skala.

Her beveger vi oss også mer og mer over i muligheter som tidligere har vært forbeholdt fiktive historier i science fiction-sjangeren. Det foregår i dag forskning for å gjenskape tapt minne (Moore 2015), hvor cyberteknologi som implantat, brain-computer-interface (BCI) og deep-brain-simulation (DBS) er relevant. Hva vil en kunstig intelligens finne på hvis slik teknologi videreutvikles og gjøres tilgjengelig for et system som Q NEWS? Store aktører som Facebook og Google jobber alt med løsninger som involverer hjerneforskning og det å «koble den på» systemer (Constine, 2017). BCI er alt blitt forbruker-produkt av, neste steg kan bli å sende signaler andre veien.


Dreyfus’ kritikk

Noe av det åpenbart vanskeligste for Q NEWS vil bli å forstå omgivelser nok til å foreta korrekt varsling tidsnok. Her er også noe av den mer treffende kritikken av systemets potensiale. Hubert Dreyfus påpekte datamaskinens fundamentale begrensning i forhold til mennesker. Det å forstå komplekse omgivelser, sette det i kontekst og benytte sunn fornuft er basert på sanser og observasjoner som maskiner ikke kan gjenskape ved å formalisere menneskelig kunnskap (Brey, 2001).

En tenkt mottager som normalt alltid sjekker SMS og Q NEWS dermed anser som foretrukken kommunikasjonsform til vedkommende kan ha en dårlig dag eller være så stresset at telefonen ignoreres. Konflikter kan oppstå, eksempelvis ved at et fartøy har innført radio-taushet for å unngå å bli oppdaget. Hvis Q NEWS ender med å sende en drone av gårde inn i en skarp situasjon som avslører fartøyets posisjon kan konsekvensen av en varsling bli fatal. I gitte situasjoner kan mennesker være mer kapabel til å forstå kontekst og hvorfor noen eventuelt ikke bør varsles. Det ville vært interessant å teste ut ulike scenarioer og sette en videreutviklet Q NEWS opp mot menneskelige operatører.


Etikk

En vesentlig problemstilling for Q NEWS er det rent etiske. Hva om en situasjon oppstår hvor Q NEWS må velge hvem som skal varsles. En gitt situasjon her er tilfeller hvor innbyggere i avsidesliggende områder må varsles og systemet anser at droner må anvendes for å få ut varsling. Det er ikke nødvendigvis nok droner til å nå alle og noen må varsles før andre.

Lignende problemstillinger kan oppstå hvis systemet har budsjetter å forholde seg til. Det kan være Q anser det tilstrekkelig å bruke billige løsninger som sosiale medier fremfor SMS eller oppringing, med det resultat at varsling ikke når like raskt frem. Mer alvorlig blir det om myndigheter begynner å gi systemet etikk som går på tvers av demokratiske prinsipper. I teorien kan Q NEWS instrueres til å ikke varsle journalister eksempelvis. Her setter kun fantasien grenser i en tid hvor maskiner i økende grad kan kategorisere mennesker ved hjelp av blant annet datasyn.


Konklusjon

Q NEWS er et system som kan revolusjonere utvikling av tidlig varsling. I tillegg kan det i teorien medføre utvikling av nye kommunikasjonsformer, oppdagelse av nye trender og ha et radikalt potensiale som inkluderer å skape nye medier.

Det kan hevdes at fordelen med Q NEWS er at den kan omgå faktorer som har medført «forsinkelser» innen innovasjon og teknologisk utvikling. Samtidig er dette det store tankekorset. Om kunstig intelligens makter å foreta slike avgjørelser og igangsette kommunikasjon på et helt nytt nivå, betyr det også at de naturlige «forsinkelsene» som tidligere har preget utviklingen forsvinner? Vi mister for alvor kontroll. Ikke nødvendigvis over systemet i seg selv, men hvor raskt utviklingen går fremover.  

Et behov for Q NEWS er det nok, all den tid bransjen, myndighetene og innbyggere i økende grad blir overveldet av ulike former for kommunikasjon. Kunstig intelligens kan hjelpe på den jobben. Kommer vi til det steg at «ring min kone» kan erstattes med «kontakt min kone» blir det enklere å oppnå kontakt.

Arbeid med Q NEWS er et som for øvrig kan bidra for å ta fatt på store spørsmål, som tvinger seg frem i økende grad. Det åpenbare spørsmålet er da – for å avslutte sirkelen – Er vi forberedt?

Om forfatter

Jeg er arbeidsklassegutt og et tidligere avisbud, fra tidlig alder glad i å levere budskap til folks dør. Er siden utdannet i samband, kampopplysningsorganisasjonen (KOPPO) og elektronisk krigføring (EK) i forsvaret. Har også en bachelor i nye medier (en mix av design, koding, programmering, medieproduksjon, medievitenskap) ved UiB og erfaring fra pressen, lokalidretten og næringslivet. Grunnla Serienytt.no i 2011. Glad i en god kopp med kaffe.

Interessert i teknologi og utvikling?

Hvis tematikk som dette er av interesse anbefales det å sjekke ut studiet Medie og interaksjonsdesign ved Universitet i Bergen.

Interessert i cyberforsvar?

Marinens krigføringssenter og Nasjonalt sjøoperativt senter lyser periodevis ut stilling innen eksempelvis samband og elektronisk krigføring

Case: Terror og nettdebatt

Les hvordan nettforumet Diskusjon.no håndterte debatten under og etter terrorangrepet i Oslo og på Utøya.


Litteraturliste

Brey, P. (2001) Hubert Dreyfus – Human versus Machine. Indiana University Press.

Christensen, C.M. (1997) The Innovators Dilemma. Boston, Harvard Business Review Press. 

Constine, J. (2017) Facebook is Building brain-computer Interfaces for Typing and Skin-hearing [Internett] TechCrunch. Tilgjengelig fra: https://techcrunch.com/2017/04/19/facebook-brain-interface/ [Nedlastet 1. desember 2017]

De Ruijter. (2016) Artificial Intelligence and Big Data in scenario planning and Early Warning Systems. [Internett] De Ruijter. Tilgjengelig fra: https://www.deruijter.net/publicaties/artificial-intelligence-big-data-scenario-planni.html [Nedlastet 12. november 2017]

Gershgorn, D. (2017) Facebook built an AI System That Learned to lie to get What it Wants. [Internett] Tilgjengelig fra: https://qz.com/1004070/facebook-fb-built-an-ai-system-that-learned-to-lie-to-get-what-it-wants/ [Nedlastet 1. desember 2017]

Gripsrud, J. (2007) Mediekultur, mediesamfunn. Universitetsforslaget

Halse, K & Østbye, H. (2003) Norsk kringkastingshistorie. Oslo, Det Norske Samlaget.

Heidegger, M. (1954) The Question Concerning Technology. London. Routledge.

Innis, H. (1951) The Bias of Communication. University of Toronto Press, Toronto.

ISDR. Basics of Early Warning [Internet] Tilgjengelig fra: http://www.unisdr.org/2006/ppew/whats-ew/basics-ew.htm [Nedlastet 24. november 2017]

Lafrance, A. (2017) An Artificial Intelligence Developet Its Own Non-Human Language [Internett] Tilgjengelig fra: https://www.theatlantic.com/technology/archive/2017/06/artificial-intelligence-develops-its-own-non-human-language/530436/ [Nedlastet 1. desember 2017]

Lyon, D. (2010) Surveillance, Power and Everyday Life. [Internett]. Tilgjengelig fra: https://panoptykon.org/sites/default/files/FeedsEnclosure-oxford_handbook_3.pdf [Nedlastet 1. desember 2017]

McMullan, T (2015) What Does the Panopticon Mean in the age of Digital Surveillance [Internett] The Guardian. Tilgjengelig fra: https://www.theguardian.com/technology/2015/jul/23/panopticon-digital-surveillance-jeremy-bentham [Nedlastet 1. desember 2017]

McQuivey, J. (2013) Digital Disruption. Las Vegas, Amazon Publishing

McLuhan, M. (1964) Understanding Media. Mit Press

Moore, C. (2015) Brain Implant Could Help People With Memory Loss [Internett] Alzheimer’s News Today. Tilgjengelig fra: https://alzheimersnewstoday.com/2015/10/06/brain-implant-help-people-memory-loss/ [Nedlastet 1. desember 2017]

Nesbø, K.R (2008) Vidkun Quisling’s Speech on April 9th 1940, [Internett] Youtube. Tilgjengelig fra: https://www.youtube.com/watch?v=v5nuooEl1QQ [Nedlastet 1. oktober]

NRK (2014) Datalagringsdirektivet er ugyldig [Internett] Tilgjengelig fra: https://www.nrk.no/norge/_-datalagringsdirektivet-er-ugyldig-1.11655929 [Nedlastet 1. oktober 2017]

Nyre, L. (2014) Media design method. Combining media studies with design science to make new media. Journal of Media Innovations.

Parks And Recreation (2011). TV-serie. NBC. Tilgjengelig fra: https://www.youtube.com/watch?v=ABY3GLf7wU4 [Nedlastet 1. november]

Rogers, E. (1962) Diffusion of Innovations. 5th Edition. New York: Free Press.

Schofield, H. (2013) How Napoleon’s Semaphore Telegraph Changed the World. [Internett] BBC Tilgjengelig fra: http://www.bbc.com/news/magazine-22909590 [Nedlastet 1. desember 2017]

Syvertsen, T. & Sæther, S.Ø. (2002) Et Hjem For Oss – Et Hjem For Deg? Ij-forlaget, Kristiansand.

The Guardian (2017) Google Unveils AI That Learns on Its Own [Internett] The Guardian. Tilgjengelig fra: https://www.theguardian.com/science/2017/oct/18/its-able-to-create-knowledge-itself-google-unveils-ai-learns-all-on-its-own [Nedlastet 19. oktober 2017]

Scannel, P. (2014) Turning on the TV set. Polity Press, Cambridge.

TNS (2016) Et Medielandskap i Endring. [Internett] Tilgjengelig fra: https://www.tns-gallup.no/tns-innsikt/et-medielandskap-i-endring [Nedlastet 1. desember 2017]

UIB Mixmaster (2017) Prosjekter Høsten 2017 [Internett] Tilgjengelig fra: https://www.uibmixmaster.no/prosjekter/ [Nedlastet 1. oktober 2017]

Winston, B. (1998) Media, Technology and Society. A History: From the Telegraph to the Internet. Routledge, Oxon.

Zittrain, J. (2007) The Future Of The Internet – And How To Stop It. Yale, Yale University Press

Yi, Y. (2017) Can A.I. Innovate? [Internett]Xinhuanet. Tilgjengelig fra: https://news.xinhuanet.com/english/2017-09/08/c_136593692.html [Nedlastet 24. november 2017]

LEGG IGJEN EN KOMMENTAR

Vennligst skriv inn din kommentar!
Vennligst skriv inn navnet ditt her