DALL-E bildgenererande AI kan nu redigera verkliga ansikten

Ansikten genererade av DALL-E © © OpenAI

DALL-E, OpenAIs artificiella intelligens som kan generera bilder från text, kan nu redigera bilder som innehåller mänskliga ansikten. Fram till dess var den här funktionen förbjuden av rädsla för skadlig användning.

AI-användare hade bara möjlighet att arbeta och dela fotorealistiska ansikten. De kunde inte ladda upp några bilder som kan föreställa en verklig person, inklusive bilder på kändisar och offentliga personer.

DALL-E har förbättrat säkerheten

I ett e-postmeddelande som skickades till sina användare förklarade företaget att det hade gjort stora framsteg när det gäller säkerhet, vilket nu tillåter det att acceptera att arbeta med verkliga människors ansikten. I synnerhet har den förbättrat sina filter för att ta bort bilder som innehåller ” sexuellt, politiskt och våldsamt innehåll “.

DALL-E-användare kommer alltså att kunna ladda upp en persons foto och generera varianter av denna bild, eller ändra specifika egenskaper hos den senare, såsom en persons kläder eller frisyr. Detta borde göra många människor i den kreativa branschen glada. Att implementera den här funktionen kommer dock att belasta OpenAI:s filtrering, vilket vissa kunder har klagat på tidigare på grund av dess felaktighet.

Konstgenererande AI:er är kontroversiella

Detta beslut visar hur tillverkarna av bildgeneratorer och deras användare försöker hantera de potentiella nackdelarna med denna teknik, som mycket snabbt kan utnyttjas av illvilliga människor genom att skapa deepfakes i synnerhet.

Till exempel användes Stable Diffusion-plattformen, tillgänglig i öppen källkod utan några begränsningar, för att skapa deepfakes pornografi utan samtycke från kändisar som Emma Watson. Stable Diffusion, liksom den nya funktionen i OpenAI, tillåter redigering av mänskliga ansikten. Men OpenAI är mycket mer kräsen när det gäller den skadliga användningen av dess teknologier, särskilt eftersom det är ett företag som stöds av mycket stora namn inom tekniksektorn som Microsoft, som absolut inte vill förknippas med sådana mörka frågor.

Utöver de faror de representerar, är konstgenererande AI:er måltavla av konstnärer som anser att dessa teknologier, som kan skapa ett verk på ett ögonblick från några få ord, gör konsten och deras arbete en otjänst.

Källor: Gränsen, TechCrunch

Relaterade Artiklar

Back to top button