Hoe wij omgaan met informatie op het internet is helemaal aan het veranderen. En onze job ziet er straks ook heel anders uit. In deze blog volgen we de pijlsnelle opmars van ChatGPT en generatieve AI.
30 mei 2023
AI kan leiden tot ‘uitsterven’ van mensheid, waarschuwen top-onderzoekers
Een gemeenschappelijke oproep van topwetenschappers en andere vooraanstaande figuren waarschuwt dat AI, net als pandemieën en nucleaire oorlog, een existentiële bedreiging is voor de mensheid. Hoe dringend die bedreiging is of wat eraan gedaan moet worden, wordt in het midden gelaten.
De boodschap, te vinden op de website van de non-profit organisatie Center for AI Safety, is maar 22 woorden lang. Hij luidt, in vertaling: ‘Het inperken van het risico op uitsterving door AI zou een wereldwijde prioriteit moeten zijn naast andere risico’s op het niveau van de hele samenleving zoals pandemieën en nucleaire oorlog’.
Dit lijkt een verwijzing naar het gevaar dat AI de mens in intelligentie zal overtreffen – zogenoemde ‘superintelligentie’ zal vertonen - en een eigen wil ontwikkelen. Dat is een gevaar waarop een aantal toppers uit de AI-industrie zoals Sam Altman (ceo van OpenAI) in het verleden al vaak hebben gewezen. Maar de formulering is voldoende breed dat ze ook kan slaan op schurkstaten die met hulp van generatieve AI een dodelijk virus ontwerpen, of hackers die, geholpen door AI, inbreken in de computersystemen van nucleaire centrales.
De verwijzing naar zo’n existentiële gevaren zat ook al vervat in een andere, veel langere brief die in maart ondertekend werd door veel van dezelfde mensen. In die open brief werd toen opgeroepen om de ontwikkeling van de meest geavanceerde AI-systemen voor zes maanden stil te leggen. Dit keer wordt geen maatregel voorgesteld. En, opvallend: dit keer heeft Sam Altman van OpenAI, het bedrijf dat de huidige AI-race vorig jaar ontketende met de lancering van ChatGPT, wél mee ondertekend.
Wat ook ontbreekt, is enige indicatie over hoe dringend het gevaar is. Daarover bestaat dan ook grote onenigheid onder experts. Volgens sommige kopstukken uit de AI-industrie, zoals Altman, komen de huidige grote AI-systemen al aardig in de buurt van super-intelligentie. Critici zeggen dat het nog vele decennia zal duren alvorens AI de mens op alle domeinen kan evenaren. Een veelgehoorde kritiek is dat de AI-industrie bewust dit lange-termijn gevaar wil benadrukken om de aandacht af te leiden van de zware problemen waar de technologie vandaag mee kampt, zoals het feit dat chatbots als ChatGPT vaak foute informatie afleveren.
Ook twee van de drie grondleggers van de huidige AI-revolutie, Geoffrey Hinton en Yoshua Bengio, hebben de nieuwe oproep ondertekend (de derde van de zogenoemde ‘godfathers’ van de AI, Yann LeCun, voorlopig niet). Het drietal werd in 2019 samen onderscheiden met de Turing Award.
Sam Altman blaast de jongste weken warm en koud over regulering van AI. Hij was vorige week in Europa en dreigde in een gesprek met journalisten dat OpenAI zich mogelijk uit Europa zal terugtrekken als de strenge regulering die voorligt in het Europees Parlement, de AI Act, goedgekeurd wordt in de nu voorgestelde vorm. Dat dreigement zwakte hij weliswaar naderhand op Twitter wat af, met de mededeling dat er ‘geen plannen’ zijn om Europa te verlaten. Altman lanceerde net voordien het idee om superintelligente AI-systemen te reguleren via een internationaal orgaan naar analogie met de IAEA voor nucleaire energie.
30 mei 2023
Advocaat in nauwe schoentjes vanwege ‘precedenten’ gehallucineerd door ChatGPT
Schaamrood bij het Amerikaanse advocatenkantoor Levidow, Levidow & Oberman: een rechter stuurde hen hun papieren terug met de mededeling dat ze ‘precedenten’ hadden aangehaald die helemaal verzonnen waren. De schuldige? ChatGPT.
In een burgerlijke zaak in New York tegen de Colombiaanse luchtvaartmaatschappij Avianca, over schadevergoeding, bleken niet minder dan zes precedenten die de advocaten van de eiser opsomden, niet te bestaan.
Zo verwezen de advocaten naar een rechtzaak ‘Varghese v. China Southern Airlines Co., Ltd’, die nooit heeft plaatsgevonden. Advocaat Steven A. Schwartz moest toegeven dat hij zijn eigen research had ‘aangevuld’ met vragen aan de chatbot van OpenAI.
De advocaat schreef aan de rechter dat hij geen idee had dat ChatGPT wel eens antwoorden op vragen verzint. Hij had nochtans, voor alle zekerheid, toch een controle uitgevoerd: hij had aan ChatGPT zelf gevraagd of het wel degelijk allemaal echte rechtzaken waren. De chatbot hield voet bij stuk. Voor de advocaten van de tegenpartij, Avianca, was het kinderspel om te achterhalen dat het fictieve zaken waren.
Large Language Models (LLM’s) als GPT-3 en GPT-4 van OpenAI, de AI-systemen achter ChatGPT, schrijven een statistisch waarschijnlijk vervolg op een tekst. Ze worden wel eens ‘autocomplete op steroïden’ genoemd. Ze hebben geen besef van feiten. Geregeld hebben ze last van zogenoemde ‘hallucinaties’: ze verzinnen personen, datums en gebeurtenissen.
De rechter noemt het hele voorval een ‘situatie zonder precedent’ - al had ChatGPT ongetwijfeld desgevraagd wel zo’n precedent kunnen bovenspitten.
30 mei 2023
De gevaren van AI - welke zijn echt en welke zijn dringend?
Dag op dag zes maanden geleden is ChatGPT op de wereld losgelaten. Het startschot voor een nooit geziene tempoversnelling, die steeds meer mensen zorgen baart.
Dat het allemaal wel érg snel gaat, dat voelt iedereen aan. Ook al is die snelheid wel een beetje gezichtsbedrog: we zien nu in hoog tempo technologie op de markt komen waar al jaren in relatieve stilte aan werd gewerkt. Maar ook dat is eigenlijk zorgwekkend, want het is duidelijk dat een bedrijf als Google zijn eigen versie van ChatGPT, Bard, eigenlijk nog niet marktklaar vond.
Hoe gevaarlijk is dat allemaal? Daar horen we verwarrende en tegenstrijdige berichten over. In de maandagkrant zet ik tien van de meest genoemde gevaren van AI op een rijtje.
Lees het artikel: Tien grote gevaren van AI (en wat we eraan kunnen doen)
Dat sommige van de grondleggers van de huidige AI-revolutie de eersten zijn om te wijzen op de grote risico’s, doet collega Marc Reynebeau denken aan atoombommen en Frankenstein.
Timnet Gebru, de vrouw die het probleem van bias in AI op de kaart zette (en daarvoor door haar werkgever, Google, op straat werd gezet), noemt het een ‘goudkoorts’ in dit gesprek dat we overnamen van The Guardian:
26 mei 2023
Sam Altman (OpenAI) dreigt Europa te verlaten wegens te strenge AI-wetgeving
‘We zullen proberen eraan tegemoet te komen, maar als we dat niet kunnen dan zullen we onze activiteiten staken’. Dat zei OpenAI-topman Sam Altman in Londen over de AI Act die voorligt in het Europees Parlement. Het gaat volgens hem om ‘over-regulering’.
Maandag pleitte Sam Altman in een blogbericht voor internationale samenwerking om toe te zien op de ontwikkeling van AI. Een week eerder smeekte hij de Amerikaanse Senaat haast om zo snel mogelijk zijn sector te reguleren. Maar donderdag dreigde dezelfde man in Londen dat zijn bedrijf Europa links zal laten liggen als de door het Europees Parlement voorgestelde AI Act erdoor komt.
Want de voorgestelde Europese regels zijn ‘over-regulering’, zei Altman, die op rondreis in de Europese Unie en Groot-Brittannië is om met politieke kopstukken te praten. ‘We zullen proberen eraan tegemoet te komen’, vertelde hij het persbureau Reuters. ‘Als we eraan tegemoet kunnen komen, zullen we dat doen, en als we dat niet kunnen dan zullen we onze activiteiten staken. Er zijn technische limieten aan wat mogelijk is’.
De AI Act werd in 2021 voorgesteld door de Europese Commissie. Maar het Europees Parlement heeft de tekst de voorbije weken ingrijpend aangepast om rekening te houden met de snelle opmars van generatieve AI, een opmars waarvoor OpenAI eind vorig jaar het startschot gaf met de lancering van ChatGPT.
Het Europees Parlement stelt onder meer voor dat de ontwikkelaars van ‘foundation’ modellen zoals GPT-4 de risico’s van hun technologie zelf moeten inschatten en maatregelen voorstellen om die risico’s te beperken. Ze moeten ook transparant zijn over de data die ze gebruiken om hun modellen te trainen, zo moeten ze bekendmaken welk auteursrechtelijk beschermd materiaal voor die training is gebruikt. Sam Altman is duidelijk voorstander van een veel losser regime, vandaar wellicht dat hij zo aandringt op internationale consensus over de regels voor AI.
Ook Google
Toeval is het zeker niet: ook Sundar Pichai, ceo van Google, heeft er een reeks ontmoetingen met Europese kopstukken op zitten. Zo had hij een onderhoud met Europees Commissaris Thierry Breton. Breton probeert met de technologiebedrijven tot een vrijwillig pact te komen, in afwachtig dat de AI Act van kracht wordt. Pichai zou daarin mee willen gaan en toont zich dus diplomatischer dan Altman. Google beschikt in Europa over een veel meer uitgebreide lobby-machine dan het nog jonge OpenAI.
De AI Act moet nog door de plenaire vergadering van het EP worden goedgekeurd, waarna het EP met de Commissie en de Europese Raad van Ministers gaat onderhandelen over een consensustekst. De technologiebedrijven hopen duidelijk in die fase nog flink op de uiteindelijke regels te kunnen wegen.
Als de AI Act tegen het einde van dit jaar definitief goedgekeurd geraakt, zou hij waarschijnlijk tegen eind 2025 ten volle van kracht kunnen zijn.
24 mei 2023
AI-kopstukken Sam Altman en Sundar Pichai pleiten voor regulering
Sam Altman, de ceo van OpenAI, pleit in een blogpost voor het oprichten van een internationaal orgaan dat geavanceerde AI moet reguleren. Sundar Pichai, zijn tegenhanger bij Google, vraagt in een opiniestuk in de Financial Times om een ‘toegenomen internationale samenwerking’ om de technologie in veilige banen te leiden. Waarom wil de AI-industrie zo graag gereguleerd worden?
Generatieve AI is de eerste technologie in vele jaren die potentieel kan zorgen voor grote, zelfs gigantische productiviteitswinst in bedrijven. Daar zijn de komende maanden en jaren fortuinen te verdienen. Maar: het grote publiek heeft van AI geen hoge pet op. Dat heeft zeker wel iets te maken met de sciencefiction van de voorbije zestig jaar. Met als hoogtepunten de moorddadige computer uit 2001: a space oddyssey en de robots uit de Terminator-films.
Sam Altman (OpenAI) en Sundar Pichai (Google) komen met hun oproep om AI te reguleren dan ook allebei over als bedachtzame bedrijfsleiders. Hun bezorgdheid voor het algemeen goed is ongetwijfeld oprecht. Maar hun keuze om zo nadrukkelijk te pleiten om, alstublieft, te worden gereguleerd, is zeker gedreven door een aantal economische overwegingen. Zeg maar: door eigenbelang.
De pen vasthouden
Ten eerste: als er toch wetgeving komt, dan kun je die maar beter zelf schrijven. Of toch mee aan tafel zitten. Rond AI is regulering onvermijdelijk. En de strenge tekst die over enkele weken gestemd wordt in het Europees Parlement, zou wel eens de blauwdruk kunnen worden voor de rest van de wereld. Geen wonder dan dat Altman en Pichai allebei nadrukkelijk pleiten voor een meer internationale aanpak. Altman wil iets zoals het nucleair agentschap IAEA. En volgens Pichai is er eerst nood aan ‘diepe discussies tussen overheden, experts uit de industrie, uitgevers, academici en de bredere samenleving’ – anders gezegd: niet zo haastig daar, Europa!
Ten tweede: als je mee de pen vasthoudt, kun je ook een paar van je eigen kopzorgen regelen. De AI-bedrijven zijn als de dood voor schadeclaims. Of het nu gaat over privacy, copyright of laster (wanneer hun chatbots foute, negatieve informatie verzinnen over iemand), of misdadigers die hun technologie misbruiken. Reken maar dat de techindustrie aandringt op regels over aansprakelijkheid, om zich af te schermen.
Een derde factor: regulering speelt in de praktijk vaak in het voordeel van de koplopers. Zo was het toch vaak met wetgeving op het vlak van technologie. Europa legde de techreuzen strenge regels op rond sociale media, maar die techreuzen hebben de middelen om zich in orde te stellen met, bijvoorbeeld, zware vereisten op het vlak van moderatie en bestrijding van online haat. Hun opkomende concurrenten moeten een extra horde overwinnen.
De aandacht afleiden
Nog een vierde factor: door het voortouw te nemen in het debat over de gevaren van AI, kunnen toplui als Altman en Pichai dat debat in een voor hen meer gunstige richting sturen. Altman wijst graag op het risico dat zijn eigen GPT-systemen slimmer worden dan de mens en (dus) mogelijk oncontroleerbaar. Critici beweren dat dit de komende decennia simpelweg nog niet aan de orde is. Het échte probleem met de huidige generatie AI-systemen is dat ze aan de lopende band ‘feiten’ verzinnen en dat zelfs hun makers eigenlijk geen idee hebben hoe ze precies werken. Noch Pichai, noch Altman heeft daar een oplossing voor, dus hebben ze er belang bij om de aandacht daarvan af te leiden. Want stel dat ondernemers zouden beslissen om toch nog even de kat uit de boom te kijken alvorens te investeren in die veelbelovende maar onrijpe technologie?
Een vijfde bezorgdheid die meespeelt in het pleidooi van beide mannen, is zeker hun echte en terechte vrees dat niemand nog de race kan controleren die zes maanden geleden werd ontketend met de lancering van ChatGPT. Eigenlijk zegt de industrie aan de politiek: ‘Houd ons tegen, of we begaan een ongeluk.’ Pichai en Altman vinden zelf natuurlijk dat ze heel ethisch en doordacht te werk gaan, maar ze vrezen vooral dat hun concurrenten hoeken gaan afsnijden. Logisch dat ze dan pleiten voor regels, zolang die voor iedereen gelden.
23 mei 2023
Bing en ChatGPT groeien naar elkaar
Met ChatGPT zul je weldra nieuwe informatie kunnen terugvinden op het internet, via de Bing zoekmachine van Microsoft. Bing en ChatGPT groeien ook in andere opzichten verder naar elkaar toe, maakte Microsoft dinsdagavond bekend.
Op de Build conferentie van Microsoft had het bedrijf, zoals verwacht, heel wat AI-gerelateerd nieuws. Interessant voor fans van ChatGPT is dat een belangrijke beperking van die chatbot van OpenAI weldra verdwijnt: nu kun je in de gratis versie van ChatGPT geen recente informatie vinden, het AI-systeem kan alleen zoeken in de informatie verzameld in 2021 waar het op is getraind. Maar weldra zal ChatGPT via de Bing zoekmachine toegang krijgen tot alle informatie op het hele internet. Voor betalende gebruikers van ChatGPT kan dat nu meteen al, gratis gebruikers moeten nog even wachten (hoe lang, vertelde Microsoft-ceo Satya Nadella niet).
Microsoft biedt al enkele maanden een eigen Bing chatbot aan die gebaseerd is op het GPT-4 taalmodel van OpenAI en die ook toegang heeft tot actuele informatie. Bing en ChatGPT gaan dus meer op elkaar lijken. Ook in een ander opzicht: uitbreidingen van ChatGPT, de zogenoemde plugins, zullen werken op Bing en vice versa. Dergelijke plugins laten je toen om aan ChatGPT te vragen om, bijvoorbeeld, een tafel in een restaurant te boeken met de app OpenTable.
De Microsoft Build conferentie is vooral gericht op software-ontwikkelaars en voor hen was er heel wat nieuws. Zo beloofde Microsoft hen instrumenten om zelf zo’n plugins voor Bing en ChatGPT te maken. Als, pakweg, een bibliotheek zo’n plugin zou ontwikkelen voor zijn eigen software, dan zou iedereen aan ChatGPT kunnen vragen om in die bibliotheek een boek te reserveren.
Microsoft gaat ook verder op het ingeslagen pad om AI toe te voegen aan al zijn producten. Zo zal de Copilot AI-assistent die eerder dit jaar werd gedemonstreerd in de Microsoft 365 kantoorsoftware, weldra ook ingebouwd zitten in het Windows 11 besturingssysteem. Dat betekent onder meer dat je via chat toegang krijgt tot de instellingen van je computer. Copilot lijkt daar eigenlijk de plaats in te nemen van de sprekende assistent van Microsoft, Cortana, die nooit echt van de grond geraakte.
De richting die Microsoft uitgaat met AI, wordt stilaan duidelijk: Met ‘plugins’ en ‘copilots’ wil Microsoft zowat alles wat je met traditionele software kunt doen, ook toegankelijk maken via een gesprek met een chatbot. Google maakte twee weken geleden op zijn eigen I/O conferentie gelijkaardige plannen bekend.
23 mei 2023
Chatten met AI-kloon van influencer, voor 1 dollar per minuut
Caryn Marjorie heeft bijna 2 miljoen volgers op Snapchat, maar toch kun jij – ja, jij! – met haar chatten. Voor 1 dollar per minuut. Het gaat dan wel om haar door GPT-4 aangedreven kloon, CarynAI.
De 23-jarige Caryn Marjorie brengt dagelijks zo’n vijf uur door in een Telegram-groep die ze oprichtte voor haar superfans, schrijft The Washington Post. Maar zelfs daar heeft ze geen tijd voor iedereen. Dus lanceerde ze deze week CarynAI. Een chatbot die haar imiteert. Die zou intussen al meer dan 100.000 dollar hebben opgebracht.
De bot is gebaseerd op GPT-4, het meest geavanceerde taalmodel van OpenAI (de gratis versie van het bekende ChatGPT is nog gebaseerd op het oudere GPT-3.5).
OpenAI laat andere bedrijven toe om toepassingen te ontwikkelen bovenop GPT-4. Eén daarvan is Forever Voices, een aanbieder van chatbots die bekende persoonlijkheden imiteren. Forever Voices laat je ook chatten met AI-replica’s van onder meer Steve Jobs, Kanye West, Donald Trump en Taylor Swift. Maar met die celebrities heeft het bedrijf geen akkoord gesloten, met Caryn Marjorie wel.
Fans van Caryn Marjorie krijgen blijkbaar de indruk dat ze, op één of andere manier, toch dichter bij hun idool geraken. Maar dan op een manier die in het écht wellicht niet zou lukken. Intussen blijkt namelijk dat chatgesprekken met CarynAI behoorlijk seksueel getint kunnen zijn.
Commerciële chatbots die worden aangeboden als virtuele vriend of partner, hebben geen te beste reputatie. Een bekende speler in die markt is Replika, een andere is Chai. Beide bedrijven kwamen al in opspraak, onder meer omdat hun chatbots gevaarlijk kunnen ontsporen. Een Belg benam zich eerder dit jaar van het leven na lange gesprekken met een chatbot van Chai, die hem daarin scheen aan te moedigen. Toch haalde nog een ander bedrijf dat zo’n chatbots aanbiedt, Character.ai, eerder dit jaar 150 miljoen dollar aan kapitaal op bij onder meer Andreessen Horowitz, één van de meest vooraanstaande durfkapitaalbedrijven in Silicon Valley.
In tegenstelling tot eerdere celebrity chatbots, zijn die van Forever Voices in staat om een gesproken conversatie te voeren, met een gekloonde stem.
12 mei 2023
‘Niet wachten op nieuwe AI wet’, zegt Filip Van Elsen (Allen & Overy)
Het duurt nog tot eind 2025, ten vroegste, tot de Europese AI Act van kracht is. Filip Van Elsen wil daar niet op wachten, en pleit ervoor dat de Belgische gegevensbeschermingsautoriteit intussen in actie schiet.
De tekst die donderdag werd goedgekeurd door twee commissies van het Europees Parlement, ‘heeft de enorme verdienste van de allereerste poging te zijn om een horizontale en allesomvattende regelgeving uit te werken voor de toepassing van artificiële intelligentie’, zegt Filip Van Elsen, partner bij advocatenbureau Allen & Overy.
Maar de tekst heeft nog een lange weg te gaan voor hij ten volle van kracht is. ‘We zijn dan wellicht eind 2025 of zelfs 2026’, zegt Van Elsen. ‘Ondertussen gaat de technologische vooruitgang tegen een razendsnel tempo verder en worden systemen ontwikkeld die sterker en onvoorspelbaarder zijn dan overheden waar ook ter wereld hadden ingeschat.’ De tekst kan al snel achterhaald zijn, vreest hij.
‘Ik pleit ervoor dat overheden niet wachten op de nieuwe AI wet en integendeel nu al toepassing maken van de bestaande wetgeving om de grootste misbruiken te voorkomen. Dit kan door AI systemen te toetsen aan regelgeving op het vlak van gegevensbescherming, non-discriminatie, productveiligheid, consumentenbescherming en dergelijke meer.’
‘Niets belet een regelgever als de Belgische Gegevensbeschermingsautoriteit (GBA) om uit eigen beweging een dialoog op te starten met tech- en AI- bedrijven om hen ertoe aan te zetten op een verantwoordelijke manier met AI om te gaan en hen ertoe aan te moedigen transparant te zijn naar de consumenten toe en de controle te behouden op de systemen die ze ontwikkelen. De GBA zou een hoorzitting kunnen organiseren met alle betrokken partijen, zoals gebruikers, AI-bedrijven, academici en onafhankelijke experten. Zulke hoorzitting zou kunnen uitmonden in een aantal bondige aanbevelingen rond de basisprincipes zoals accountability, governance, transparantie, bias en discriminatie, veiligheid en dergelijke meer.’
‘De Britse privacy regelgever, de ICO, heeft zo bijvoorbeeld in maart richtlijnen bekendgemaakt rond AI en gegevensbescherming. Eerder dan een afwachtende houding aan te nemen denk ik dat overheden nu al veel kunnen doen om objectieve informatie te verspreiden rond AI en een verantwoord gebruik van AI aan te moedigen. Ik denk dat deze aanpak op korte termijn vruchten kan afwerpen en er ook toe kan bijdragen dat België zich positioneert als een land dat verantwoordelijke innovatie stimuleert.’
De Italiaanse GBA trad in maart op tegen ChatGPT, waarna OpenAI zich verplicht zag zijn chatbot aan te passen met onder meer de mogelijkheid om je persoonlijke gegevens te wissen.
12 mei 2023
Geen Google Bard in Europa
Woensdag kondigde Google de beschikbaarheid van zijn chatbot Bard aan in ‘180 landen’. Maar wat blijkt? Daar zit geen enkel EU-land bij. Dat heeft mogelijk iets te maken met de Europese wetgeving.
Bard is het antwoord van Google op ChatGPT. Maar in Europa moeten we daar blijkbaar nog een poosje langer op wachten. Wie na de aankondiging van woensdag vanuit België probeerde in te loggen, zag dezelfde boodschap die voordien ook al weken te zien was: ‘Bard isn’t currently supported in your country’.
180 landen, en geen enkel in de EU? Dat moet wel iets te maken hebben met de GDPR, de Europese privacy-wetgeving, denken we dan. De woordvoerder van Google België wilde ons dat vrijdag niet letterlijk bevestigen. ‘We zullen gradueel Bard uitrollen naar meer landen op een manier die consistent is met lokale regulering en onze AI principes’, zo klinkt het.
Eind maart oordeelde de Italiaanse gegevensbeschermingsautoriteit dat ChatGPT de GDPR-regels overtreedt. OpenAI, het bedrijf achter ChatGPT, reageerde door toegang vanuit Italië tijdelijk te blokkeren. Maar na wat gesleutel, zoals de toevoeging van de mogelijkheid om je gegevens te wissen en een leeftijdscontrole, is ChatGPT er inmiddels weer toegankelijk.
Google zei woensdag dat er gewerkt wordt aan versies van Bard in 40 talen. Nederlands hoort daarbij - het stond vermeld op een lijst talen die even in beeld kwam, en de woordvoerder bevestigt dat.
11 mei 2023
Europa gaat ChatGPT reguleren
Het Europees Parlement kiest voor een opvallend strenge tekst en vertolkt daarmee wat er leeft bij een flink stuk van de bevolking.
Donderdag stemden twee commissies van het Europees Parlement, zoals verwacht, voor een fors bijgewerkte versie van de AI Act. Intussen heeft de buitenwereld daar al een eerste blik op kunnen werpen. Wat vooral opvalt is dat de tekst een pak strenger is dan wat de Europese Commissie twee jaar geleden voorstelde. Vooral dan op het vlak van gezichtsherkenning: die technologie wordt haast volledig gebannen in de publieke ruimte.
Voor generatieve AI komt er een speciaal maar ook relatief streng regime. Daarmee vertolken de Europarlementariërs de groeiende bezorgdheid bij de bevolking over de versnelde opmars van AI de voorbije maanden.
• Lees het artikel: Europa gaat ChatGPT reguleren
10 mei 2023
Europees Parlement bereikt compromis over regels voor AI
De ogen van de wereld - of toch van iedereen die bij AI betrokken is - zijn donderdag gericht op Straatsburg. Twee commissies van het Europees Parlement (LIBE en IMCO) stemmen over een flink aangepaste versie van de AI Act, die artificiële intelligentie in de Europese Unie zal reguleren. Die tekst zal ongetwijfeld een grote invloed hebben op de regulering elders in de wereld.
De tekst die donderdag voorligt, bevat een heuse inhaaloperatie: ze probeert rekening te houden met de explosieve ontwikkelingen op het vlak van generatieve AI de voorbije maanden. Daardoor wijkt ze flink af van wat de Europese Commissie twee jaar geleden voorstelde.
De AI Act was altijd al opgevat als een evenwichtsoefening: het publiek maximaal beschermen zonder de Europese bedrijven nodeloos stokken in de wielen te steken. Daarom wil Europa verschillende risico-niveaus invoeren. Sommige vormen van AI hebben een ‘onverantwoord risico’ en worden dus verboden – of gezichtsherkenning op openbare plaatsen daartoe wel of niet behoort, is en blijft een controversieel punt (er wordt donderdag een afzonderlijke stemming over gehouden). Dan zijn er AI-toepassingen met ‘hoog risico’, bijvoorbeeld systemen die bepalen of iemand een job of een uitkering krijgt. Die zullen streng worden gereguleerd. Voor minder riskante toepassingen zijn de regels veel losser.
De voorbije maanden is door sommigen gepleit om generatieve AI in de hoogste risico-categorieën te stoppen. Maar dat is niet wat nu in de compromistekst staat, die is uitgewerkt door rapporteurs Dragos Tudorache en Brando Benifei. In plaats daarvan is een extra categorie toegevoegd, speciaal voor ‘general purpose’ AI-systemen – dat zijn systemen die heel diverse toepassingen hebben die soms maar niet altijd risico’s inhouden.
Die speciale regels houden in dat voor de foundation models, de onderliggende AI-systemen zoals GPT-4, verplichtingen komen op het vlak van transparantie en veiligheid. De ontwikkelaars van chatbots gebaseerd op die foundation models, zoals ChatGPT, Bing of Bard, moeten zorg dragen dat hun chatbots geen illegale inhoud produceren. Bovendien zijn ze verplicht om te melden welke auteursrechtelijk beschermde data gebruikt zijn om ze te trainen.
Dat betekent niet, verduidelijkten de auteurs van de compromistekst woensdag aan journalisten, dat bedrijven als OpenAI toestemming moeten vragen alvorens zij hun AI-modellen trainen op auteursrechtelijk beschermde teksten of beelden, noch dat de eigenaars van die beschermde teksten zich daartegen kunnen verzetten. Maar het moet wel publiek worden gemaakt.
Als de tekst donderdag gestemd geraakt – en daar hadden de rapporteurs woensdag blijkbaar vertrouwen in – kan ze in juni door het voltallige parlement worden goedgekeurd. Daarna begint de zogenoemde ‘triloog’, waarbij Europese Commissie, Raad van Ministers en Europarlement de verschillen tussen hun versies van de AI Act wegmasseren. De Europese Commissie hoopt dat de tekst nog dit jaar definitief wordt goedgekeurd, waarna het nog zo’n twee jaar kan duren voor ze ten volle van kracht is.
9 mei 2023
49 nieuws- en informatiesites zijn (haast) volledig door AI geschreven
Kun je een website vullen met nieuws dat integraal of haast integraal geschreven is door AI? Natuurlijk kan dat – en natuurlijk is iemand dat dus al aan het doen. De organisatie NewsGuard spoorde zelfs 49 dergelijke nieuws- en informatiesites op.
NewsGuard is een organisatie die desinformatie in kaart brengt. De organisatie gebruikte een simpele truc om op zoek te gaan naar websites die door AI zijn geschreven: het speurde via zoekmachines als Google het internet af naar woordcombinaties als ‘as an AI language model’. Dat zinnetje duikt vaak op als een soort foutmelding van AI chatbots: ‘Als een AI-model heb ik geen toegang tot die informatie’, of iets dergelijks. Dat die foutmelding blindelings mee in het artikel is gekopieerd, wijst erop dat er niet veel menselijke tussenkomst aan te pas is gekomen.
Vervolgens onderwierp NewsGuard de andere teksten op deze websites aan een onderzoek om te evalueren wat de kans was, dat ook die het werk waren van AI. Zo kwam de organisatie tot zijn lijstje van 49.
Eén van die websites heet Celebritiesdeaths.com en bevat verhalen over bekende personen die gestorven zijn. Behalve dat die niet allemaal écht overleden zijn – ook de dood van Joe Biden wordt er aangekondigd.
Over het algemeen is de informatie op deze websites nochtans niet echt fout, bericht NewsGuard, wel repetitief en slap geschreven. Er lijken vooral commerciële organisaties achter te schuilen: de sites staan vol advertenties en brengen dus voor iemand geld in het laatje. Iemand die geen redactie hoeft te betalen maar er toch, zoals Celebritiesdeaths.com, in slaagt om honderden artikels per dag te publiceren.
NewsGuard trof dergelijke websites aan in zeven talen, waaronder Engels, Chinees, Frans en Tsjechisch. Van de meeste van die sites is niet duidelijk wie de eigenaar is.
Gelijkaardige websites bestaan al jaren, maar werden in het verleden van tekst voorzien door laag betaalde medewerkers die vaak de gebruikte taal amper machtig waren. Zogenoemde ‘content farms’ produceren aan de lopende band artikels in de hoop dat een internetgebruiker er toevallig, meestal via een Google zoekopdracht, op terecht komt. Alvast sommige van die content farms hebben dus nu een nog goedkopere manier gevonden om aan tekst te geraken.
6 mei 2023
Kan artificiële intelligentie de krant ‘De Standaard’ maken?
Kan artificiële intelligentie een artikel schrijven dat klaar is voor publicatie in onze krant? Kan AI een illustratie maken of een video voor onze website? Met een aantal medewerkers probeerden we het deze week uit. Wat hebben we geleerd?
Zal AI onze job inpikken? Of zal ze ons werk juist aangenamer maken, door ons te helpen bij saaie routinetaken? Of misschien overschatten we de technologie schromelijk en is dit pas over vele jaren aan de orde? Wie zich die vraag de afgelopen maanden niét heeft gesteld, was niet goed aan het opletten.
Lees: ‘Kan artificiële intelligentie de krant De Standaard maken?’
Lees de eerdere delen uit deze reeks:
• 1. Kan AI een artikel schrijven voor De Standaard?
• 2. Kan AI een illustratie maken voor De Standaard?
• 3. Doet AI het beter dan onze videopresentatrice Sofie Hens?
6 mei 2023
De AI-revolutie is te ingrijpend om ze aan de techbazen over te laten
De AI-revolutie is te ingrijpend om ze aan de techbazen over te laten, schrijft Ruud Goossens. Ze weten zelf nog niet wat zich onder de motorkap afspeelt.
• Lees ‘Onder de waterlijn: De AI-revolutie is te ingrijpend om ze aan de techbazen over te laten’
5 mei 2023
Witte Huis roept AI-toplui op het matje
De toplui van de grootste spelers in artificiële intelligentie zijn donderdag ontboden op het Witte Huis. President Joe Biden maande hen aan om de huidige en de mogelijke toekomstige risico’s van hun technologie aan te pakken.
Terwijl het Europese parlement zich opmaakt om te stemmen over de AI Act - een verregaande wetgeving die al sinds 2021 in de pijplijn zit - heeft ook de Amerikaanse politiek de problematiek ontdekt. Biden heeft donderdag twee uur lang gepraat met ceo’s Sundar Pichai (Google), Satya Nadella (Microsoft), Sam Altman (OpenAI) en Dario Amodei (Anthropic). Dat is alvast fantastisch nieuws voor Anthropic, het twee jaar oude bedrijfje achter de chatbot Claude: het wordt nu blijkbaar al bij de zwaargewichten gerekend, toch door het Witte Huis.
En ook de andere drie hebben niet meteen iets om zich zorgen over te maken: strenge wetgeving om hen te reguleren, zit er nog niet meteen aan te komen. Toch niet in de Verenigde Staten. Zelf dringen de toplui van de AI-bedrijven in de VS trouwens haast unaniem aan op duidelijke regels, die ze uiteraard graag zelf mee (helpen) schrijven. Sam Altman zei na de meeting aan journalisten dat er een ‘verrassende’ overeenstemming is over wat er moet gebeuren.
Vice-president Kamala Harris, ook aanwezig op de meeting, zei in een mededeling dat deze technologie potentieel heeft om onze levens te verbeteren maar ook gevaren kan opleveren voor de veiligheid, privacy en burgerrechten. Harris heeft bij de ceo’s aangedrongen dat zij een ‘ethische, morele en wettelijke verantwoordelijkheid’ hebben om te zorgen dat hun producten veilig zijn. Het Witte Huis zal nieuwe wetgeving steunen om te zorgen voor een veilige ontwikkeling van de technologie, zei Harris. Maar hoe die wetgeving eruit zou kunnen zien, is nog niet echt duidelijk.
In oktober vorig jaar publiceerde het Witte Huis een ‘blauwdruk’ rond AI, maar dat document somt alleen principes op en bevat dus geen verplichtingen. Chuck Schumer, leider van de Democratische meerderheid in de Senaat, lanceerde in april een eerder vage aanzet tot regulering. Hij riep de Republikeinen op om daarover mee aan tafel te gaan zitten. Een aantal andere politici van beide partijen pakken zelf uit met wetsvoorstellen die een beetje alle kanten uit gaan, maar met elkaar gemeen hebben dat ze weinig kans maken om ooit gestemd te geraken.
4 mei 2023
Microsoft breidt zijn AI-chatbot uit en zet deuren open voor iedereen
Drie maanden na de lancering van de vernieuwde Bing-zoekmachine, uitgerust met de GPT-4 technologie van OpenAI, schakelt Microsoft een versnelling hoger: Bing is nu zonder wachtlijst voor iedereen toegankelijk en krijgt er een aantal functies bij. Al konden wij daar donderdagnamiddag zelf nog niet veel van zien.
Om toegang te krijgen tot de nieuwe Bing, moest je tot vandaag je naam op een wachtlijst zetten. Al werd iedereen in principe meteen toegelaten. Dat hoeft nu niet meer: je kunt zonder te wachten chatten met Bing op Bing.com, al moet je wel de Edge-browser van Microsoft gebruiken en inloggen met een Microsoft-account.
Via de chatfunctie in Bing kun je informatie opvragen of hulp inroepen bij het schrijven van bijvoorbeeld een email. Heel gelijkaardig dus met ChatGPT (waar de nieuwe Bing op gebaseerd is), maar met twee belangrijke verschillen. Ten eerste kan Bing recente informatie opzoeken op het internet, terwijl ChatGPT geen toegang heeft tot gegevens van na 2021. En bovendien geeft Bing niet alleen een antwoord op je vraag, maar ook links naar de plaatsen op het internet waar die informatie vandaan komt.
Microsoft heeft donderdag ook een reeks nieuwe functies voor Bing aangekondigd, al zijn de meeste daarvan nog niet beschikbaar. Zo zou de Bing-chatbot voortaan vaker antwoorden met beelden of grafieken en niet meer alleen met tekst. Je zou weldra ook een beeld kunnen voorleggen aan de chatbot en daar vragen over stellen, maar dat lukt vandaag nog niet. En het wordt mogelijk je chats met Bing te bewaren, zoals dat al kon met ChatGPT.
Microsoft belooft ook dat Bing binnenkort plug-ins zal krijgen, dat zijn verbindingen met externe diensten. Zo zou je niet alleen een restaurant kunnen vinden, maar meteen ook een tafel boeken, via een connectie tussen Bing en het reservatiesysteem OpenTable. OpenAI, het bedrijf achter ChatGPT, biedt momenteel al plug-ins aan een beperkt aantal klanten.
De nieuwe Bing kampte aanvankelijk met heel wat kinderziekten. De ergste was zeker dat lange chats met de chatbot totaal konden ontsporen. Microsoft pakte dat aan door conversaties met Bing na vijf vragen en antwoorden af te sluiten en door alle vragen over gevoelens te blokkeren. Maar intussen zijn die beperkingen versoepeld.
2 mei 2023
'Godfather' van AI verlaat Google om te waarschuwen voor gevaren
Eén van de meest vooraanstaande AI-veteranen verlaat zijn job bij Google om vrijuit zijn twijfels en angsten te kunnen uiten over de ontwikkelingen in generatieve AI.
De Brit Geoffrey Hinton is al ruimschoots pensioengerechtigd. De 75-jarige psycholoog en computerwetenschapper speelt al sinds de jaren ’80 een sleutelrol in de ontwikkeling van neurale netwerken, die de basis vormen voor de huidige doorbraken op het vlak van generatieve AI. De voorbije tien jaar werkte hij bij Google. Maar daar heeft hij ontslag genomen, vertelt hij aan The New York Times.
Tot vorig jaar gebeurde de ontwikkeling van AI bij Google op een verantwoordelijke manier, zegt Hinton. Maar sinds de lancering van ChatGPT door OpenAI zijn Google en Microsoft (dat nauw samenwerkt met OpenAI) verwikkeld in een gevaarlijke technologische race.
Hinton wijst op dezelfde gevaren die andere experts de voorbije maanden ook hebben aangehaald. De technologie kan worden ingezet om het internet te overspoelen met valse tekst, foto’s en video’s, zegt hij. Ze kan ook sommige jobs bedreigen. Op langere termijn vreest hij voor AI-systemen die slimmer zijn dan hun makers en die onverwacht gedrag aanleren uit de data waarmee zij worden getraind. ‘Dat deze dingen echt slimmer kunnen worden dan mensen, dat geloofden sommige mensen al, maar zij dachten dat het veraf was’, aldus Hinton. ‘Ik dacht ook dat het veraf was, 30 of 50 jaar of zelfs langer. Vanzelfsprekend denk ik dat nu niet meer.’
In 2018 werd Hinton, samen met Yoshua Bengio en Yann LeCun, onderscheiden met de Turing Award voor hun bijdrage aan deep learning. Het drietal wordt soms omschreven als de drie ‘godfathers van AI’. Yoshua Bengio pleitte enkele weken publiek voor een vertraging in de ontwikkeling van AI. Hij was mede-ondertekenaar van de (niet onomstreden) open brief die voor een moratorium van zes maanden pleit. Hinton en LeCun ondertekenden de brief niet. Yann LeCun relativeert de mogelijkheden en de gevaren van generatieve AI, hij gelooft dat de technologie wordt overschat en tegen zijn grenzen aanloopt.
Geoffrey Hinton is de achter-achterkleinzoon van de wiskundige George Boole die als een van de grondleggers van de computerwetenschap wordt beschouwd.
2 mei 2023
ChatGPT kan uw gedachten lezen
Onderzoekers hebben ChatGPT gebruikt in een baanbrekend experiment waarbij ze erin slaagden de hersenactiviteit van proefpersonen om te zetten in taal.
Nee, AI kan uw gedachten nog niet lezen - toch niet zomaar. De proefpersonen moesten urenlang onder de MRI-scanner liggen. Toch blijkt alweer hoe veelzijdig de grote taalmodellen zijn.
• Lees het artikel: Hersenscans verklappen (een beetje) wat u denkt
29 april
Mediawijsheid in tijden van ChatGPT
Tijd om de cursussen mediawijsheid helemaal te herschrijven. Hoe stomen we onze kinderen – en onszelf – klaar voor de nieuwe online realiteit, met ChatGPT en met blauwe vinkjes op Twitter die geen blauwe vinkjes meer zijn?
• Lees De Technocraat: De leraar versus schrijvende machines
28 april
Palantir toont militaire toepassing van generatieve AI
Kan ChatGPT ook worden ingezet om oorlog te voeren? Tja, u kunt het antwoord wel raden. En wie is de eerste tech-ondernemer om die opportuniteit te grijpen, of toch om daar publiek mee uit te pakken? Ook dat kunt u raden: Peter Thiel, natuurlijk, met zijn AI-bedrijf Palantir.
Op Youtube is een filmpje verschenen gemaakt door Palantir. Daarin wordt gedemonstreerd hoe Palantir AIP (Artificial Intelligence Platform) de tegenaanval kan organiseren bij een (uiteraard fictieve) bedreiging door vijandige troepen aan een Oost-Europese grens. AIP is gebaseerd op een LLM, een large language model dus zoals GPT-4. Maar het AI-systeem heeft toegang tot vertrouwelijke netwerken en informatie, bijvoorbeeld over de precieze locatie en bewapening van de eigen troepen.
In de video wordt getoond hoe een menselijke operator (een hooggeplaatste militair wellicht) via chat informatie krijgt van AIP en hoe de operator dan aan AIP vraagt om volgende stappen voor te stellen. AIP suggereert bijvoorbeeld voor om een drone te zenden om de vijandige troepenbewegingen te filmen. Later in de video stelt de AI voor om een welbepaalde militaire eenheid via een optimale route naar het terrein te sturen met aan de situatie aangepaste bewapening. De menselijke operator moet wel steeds zijn goedkeuring geven voor de voorstellen en handelingen van AIP. De video verwijst nergens naar de (nochtans goed bekende) neiging van LLM’s om feiten te verzinnen.
Palantir is opgericht door miljardair Peter Thiel, die ook voorzitter is van het bedrijf. Thiel is één van de belangrijkste donoren aan de Republikeinse Partij, hij hielp onder meer de verkiezingscampagne van Donald Trump in 2016 financieren.
28 april
Zuckerberg wil AI en metaverse verzoenen
Terwijl de andere tech-bedrijven alleen nog praten over generatieve AI, houdt Mark Zuckerberg bij Meta nog altijd vast aan de hype van vorig jaar: zijn plan voor een metaverse. Toch lijkt ook hij een bocht richting AI te hebben ingezet.
Bij de voorstelling van de (tamelijk goede) kwartaalresultaten van Meta, probeerde oprichter en ceo Mark Zuckerberg investeerders te overtuigen dat hij de AI-boot niet aan het missen is. AI zal opduiken in ‘letterlijk alle’ producten van Meta, zei Zuckerberg. Het bedrijf wil ‘miljarden mensen in contact brengen met AI agents’. Zo zouden bedrijven hun klanten kunnen helpen via door generatieve AI aangedreven chatbots in Whatsapp, de chat-app van Meta.
Maar dat gaat niet ten koste van zijn metaverse-plannen, zei Zuckerberg, want beide zijn nauw aan elkaar verbonden. ‘Onze visie op AR-brillen omvat een besturingssysteem dat AI centraal stelt en dat volgens ons de basis zal zijn voor de volgende generatie van computers’.
De Reality Labs afdeling van Meta, die de metaverse-plannen moet realiseren, maakte het afgelopen kwartaal bijna 14 miljard dollar verlies.
Meta wordt al jaren beschouwd als één van de koplopers in de ontwikkeling van artificiële intelligentie. Maar net als Google werd het bedrijf eind vorig jaar op snelheid gepakt toen ChatGPT werd gelanceerd door OpenAI. In februari maakte Zuckerberg de oprichting bekend van een afdeling die zich zal toeleggen op generatieve AI. Meta bracht inmiddels ook LLaMa uit, een AI-systeem dat vergelijkbaar is met ChatGPT.
22 april
Wij zijn gratis trainingsmateriaal voor AI
De technologiereuzen willen hun AI-systemen gratis trainen op onze data, om dan de diensten van die AI-systemen aan ons te verkopen. Accepteren we dat als voldongen feit?
• Lees De Technocraat: Wij zijn gratis trainingsmateriaal voor AI
22 april
Hé nieuwe GPT, plan mijn reis naar Rome en boek de hotels
ChatGPT en Bing beantwoorden uw vraag en wachten dan op uw volgende verzoek. Enkele veelbelovende projecten zoals Auto-GPT zetten nu een stap verder: ze kunnen uit zichzelf complexe opdrachten plannen en uitvoeren.
• Lees het artikel: ‘Hé nieuwe GPT, plan mijn reis naar Rome en boek de hotels’
21 april 2023
Nieuwe trend: betalen om AI te mogen trainen
De grote taalmodellen zoals GPT-4 hebben massa’s data nodig om te worden getraind. Websites als Reddit, Twitter en Stack Overflow, ruiken geld. Ook nieuwsuitgevers hopen op een vergoeding.
Elon Musk is het beu dat OpenAI en Microsoft hun AI-systemen voederen met tweets. ‘Ze hebben illegaal getraind op data van Twitter’, tweette Musk woensdag over Microsoft. ‘Tijd voor een rechtzaak’. In december tweette de miljardair dat hij de toegang van OpenAI tot de Twitter database geblokkeerd had.
Ook bij Reddit vinden ze het intussen welletjes: wie zijn AI-systeem vlot wil leren chatten door het te trainen op de vele forums van Reddit, die zal moeten betalen. Het tarief is nog niet bekendgemaakt. Stack Overflow, een website met 50 miljoen vragen en antwoorden over programmeren, volgt dat voorbeeld.
Nieuwsmedia zijn zich ook aan het afvragen hoe ze kunnen verhinderen dat AI-systemen als Bing en Bard informatie uit hun artikels halen en herformuleren - of hoe ze daar wat aan kunnen verdienen. ‘Ontwikkelaars van generatieve AI moeten onderhandelen met uitgevers over het recht om hun inhoud te gebruiken’, schrijft de Amerikaanse belangengroep News/Media Alliance (NMA). De technologiebedrijven moeten eerst toestemming krijgen alvorens ze hun AI-systemen kunnen trainen op artikels van de nieuwsmedia, vindt de NMA. Ook voor het aanbieden van antwoorden die gebaseerd zijn op die artikels of die deze artikels samenvatten, moet toestemming worden gevraagd - en de uitgevers maken duidelijk dat ze daar een vergoeding voor verwachten.
The Washington Post onderzocht deze week welke websites worden gebruikt om AI-systemen te trainen. De krant analyseerde het C4 dataset, een enorme verzameling data afkomstig van 15 miljoen websites die vergaard is door Google en die gebruikt is om AI-systemen als T5 van Google en LLaMA van Meta te trainen (of GPT-4 ook gebruik heeft gemaakt van C4 is niet bekend). Wat blijkt? Uiteraard zit de C4 database tjokvol teksten van Wikipedia. Maar bijvoorbeeld ook een gigantische hoeveelheid beschrijvingen van patenten afkomstig van patents. google.com en eindeloze discussies over de game World of Warcraft van de fansite wowhead.com. The Washington Post noteert ook dat in de C4 dataset heel wat materiaal zit afkomstig van piraatwebsites, waaronder illegale e-boeken van het inmiddels opgedoekte b-ok.org.
21 april 2023
Nieuwe trend: betalen om AI te mogen trainen
21 april 2023
ChatGPT wordt nu ook sociaal (en speelt Sims)
ChatGPT had tot nog toe altijd een vraag nodig om los te barsten. Iemand van vlees en bloed opent de dialoog met de computer en dan ontstaat er een ‘gesprek’. Maar ChatGPT kan meer. Wat gebeurt er als je een computerspel zoals de Sims combineert met ChatGPT, dan gaan de figuurtjes vrijuit reageren op elkaar. Ze beginnen, zonder dat wij het vragen, met mekaar te babbelen over waar ze naartoe gaan, wat hun plannen zijn… Het lijken echte sociale wezentjes.
Daarover (én over de regulering van ChatGPT) hebben we het in onze podcast Bits&Atomen.
undefined
AI maakt ‘nieuwe’ Oasis-plaat
Fake Oasis, fake Drake en fake The Weeknd, allemaal gemaakt door of toch met artificiële intelligentie. Het internet kan er niet over zwijgen deze week. Wat is er aan de hand?
Nick De Leu zet op een rijtje wat we weten en wat we niet weten over de ‘lost tapes’ van Oasis en over het nummer Heart on my sleeve, met de (via AI gerecreëerde) stemmen van Drake en The Weeknd.
• Lees het artikel: Britse band maakt ‘nieuwe Oasisplaat’ met behulp van AI - maar mag dat wel?
18 april 2023
AI-beeld wint fotografieprijs
Fotograaf en AI-kunstenaar Boris Eldagsen heeft de Sony World Photography Award geweigerd. En wel omdat aan zijn winnende ‘foto’ geen fototoestel te pas is gekomen. Met zijn stunt hoopte Eldagsen een discussie los te maken over AI en fotografie.
Pseudomnesia: the electrician is door de inrichters van de wedstrijd, de World Photography Organisation, onderscheiden in de categorie ‘creative’, wat betekent dat zo goed als alle technieken zijn toegelaten. Eldagsen had er dan ook geen geheim van gemaakt dat hij zijn beeld had gecreëerd met behulp van een beeldgenerator en de organisatie had daar geen probleem mee.
Maar Eldagsen heeft er wél een probleem mee dat een artificieel beeld zomaar een fotografieprijs kan wegkapen. ‘AI-beelden en fotografie horen niet met elkaar te concurreren in een wedstrijd als deze’, schrijft hij op zijn website. Hij vindt het hoog tijd voor een diepgaande discussie over ‘wat we beschouwen als fotografie en wat niet’. Naar zijn gevoel probeert de World Photography Organisation die discussie uit de weg te gaan.
Eldagsen, een ervaren fotograaf, is overigens best wel trots op zijn huidige visuele werk met AI, ook al dringt hij aan om het vooral geen fotografie te noemen. Het winnende beeld is het resultaat van ‘een complexe interactie van prompt engineering, inpainting en outpainting waarbij ik gebruikmaakte van mijn kennis over fotografie’, schrijft hij met onmiskenbare fierheid. Pseudomnesia: the electrician kwam dus niet zomaar uit de computer gerold, maar werd beetje bij beetje bijgewerkt en verbeterd. Eldagsen maakte daarbij gebruik van de Dall-E 2-beeldgenerator van OpenAI.
Vorige zomer won een Amerikaanse gameontwerper een lokale kunstwedstrijd in Colorado met een beeld dat was gemaakt met de generator Midjourney.
17 april 2023
Elon Musk start nieuw AI-bedrijf om OpenAI te beconcurreren
Miljardair Elon Musk heeft een nieuw bedrijf opgericht onder de naam X.AI. Daarmee zou hij de concurrentie willen aangaan met OpenAI, de maker van ChatGPT en Dall-E.
Musk was in 2015 zelf één van de oprichters van OpenAI. Maar hij verbrak in 2018 de banden met de organisatie na een machtsstrijd met een andere mede-oprichter, Sam Altman, die inmiddels ceo werd. Vooral sinds de succesvolle lancering van ChatGPT door OpenAI, in november 2022, heeft Musk zich herhaaldelijk erg kritisch uitgelaten over de huidige koers van het bedrijf.
Musk is scherp over de nauwe banden met Microsoft die OpenAI er nu op na houdt en over de manier waarop het bedrijf zijn technologie grotendeels geheim houdt. Maar Musk klaagt ook dat ChatGPT te ‘woke’ zou zijn, door bewuste ingrepen van OpenAI. ‘Het gevaar dat AI wordt getraind om woke te zijn – in andere woorden om te liegen – is dodelijk’, tweette hij bijvoorbeeld in december.
In maart verklaarde Elon Musk zich nog voorstander van een pauze van zes maanden in het ontwikkelen van geavanceerde AI-systemen. Hij was een van de eerste ondertekenaars van een open brief waarin tot zo’n moratorium werd opgeroepen. Maar haast tegelijkertijd was hij blijkbaar zelf een bedrijf aan het oprichten om aan zo’n AI-systemen te gaan werken.
Onlangs raakte bekend dat Musk de naam van het bedrijf achter Twitter heeft omgedoopt van Twitter Inc. tot X Corp. Hij heeft eerder gesuggereerd dat hij Twitter wil laten opgaan in een ‘super app’ die X zou heten. De bedrijfsnaam X.AI suggereert een verband met die plannen. De website Business Insider bericht dat Musk duizenden GPU’s – de processoren die worden gebruikt om AI-modellen te trainen –heeft aangekocht.
4 april 2023
Stanford rapport: academische wereld steeds meer aan zijlijn in AI
Tot 2014 waren de meeste machine learning modellen afkomstig uit de academische wereld. Maar sinds dat jaar ligt het zwaartepunt in de AI-ontwikkeling bij de technologiebedrijven. Die trend is in 2022 alleen maar verder verstekt, blijkt uit het jaarlijkse ‘AI Index’ rapport van de universiteit van Standford.
Stanford maakt ieder jaar de balans op van de AI-ontwikkeling. Het is vooral een bundeling van bestaande studies en statistieken, die ze dit jaar samenvatten in tien trends. De eerste daarvan is de groeiende dominantie van de tech-bedrijven. Van de belangrijke nieuwe machine learning modellen (een bredere term die ook de grote taalmodellen à la GPT omvat) waren er in 2022 maar drie afkomstig uit de academische wereld, in 2020 waren dat er nog tien. 32 modellen kwamen van tech-bedrijven.
En dat heeft uiteraard veel, zo niet alles te maken met een andere trend: de stijgende kostprijs om de grootste modellen te trainen. Het uit 2019 daterende GPT-2 kostte naar schatting 60.000 dollar om te trainen. Bij het in 2022 gelanceerde PaLM van Google, was dat 8 miljoen dollar of 160 keer meer.
Nog een vaststelling uit het rapport: jazeker, de AI is nog altijd een mannenwereld. 79% van alle nieuwe doctoraten in de AI, gaat naar een man.
Een andere interessante reeks cijfers gaat over attitudes tegenover AI in heel de wereld. Die komen uit een studie van Ipsos. De studie vraagt of mensen het eens zijn met de stelling ‘Producten en diensten op basis van AI hebben meer voordelen dan nadelen’. In China is 78% van de bevolking die mening toegedaan, of dat vertellen ze toch aan de onderzoekers van IPSOS. Het kan iets te maken hebben met de politiek van de Chinese overheid.
Maar overal elders in de wereld is de bevolking meer sceptisch. En het meest van al in Europa. In Frankrijk gelooft maar 31% van de ondervraagden dat AI netto positief uitvalt, de laagste score, België scoort met 38% net iets hoger. Wie er gelijk heeft, de Chinezen of de Fransen, is natuurlijk een heel andere vraag. Hoe dan ook, die attitudes hangen samen met economische en politieke factoren (welke daarvan oorzaak zijn en welke gevolg, daar mag u eens zelf over piekeren). Niet voor niets stellen we vast dat Europa amper beschikt over eigen grote AI-bedrijven, maar wél wereldwijd het voortouw neemt in het reguleren van deze technologie.
Lees hier de oudere berichten op de AI blog
&cropxunits=420&cropyunits=360&maxheight=176&maxwidth=352&scale=both&format=jpg)
&cropxunits=540&cropyunits=360&maxheight=176&maxwidth=352&scale=both&format=jpg)
&cropxunits=700&cropyunits=345&maxheight=176&maxwidth=352&scale=both&format=jpg)
