Påven Leo XIV varnar för att teknikutvecklingen, däribland artificiell intelligens, kan göra mänskliga relationer mindre personliga och få människor att överlåta samvetsbeslut till algoritmer. Heliga stolen vill i första hand formulera principer, inte lägga fram färdiga tekniska lösningar.

Frågan är samtidigt svår att avgränsa. I den offentliga debatten pendlar reaktionerna mellan uppgivenhet och misstänksamhet mot själva varningarna. Det finns en bred uppfattning om att AI-utvecklingen behöver regleras, men nästan ingen enighet om vad som ska regleras eller hur.

Påven varnar för att tekniken tränger undan människan

I en katekes om Andra Vatikankonciliets konstitution Gaudium et spes beskrev Leo XIV tekniken som något som öppnar möjligheter, bryter barriärer och minskar avstånd. Samtidigt varnade han för att relationer blir mer virtuella och att människor kan vänja sig vid att överlåta beslut till algoritmer när besluten egentligen hör till det mänskliga samvetet.

Den kristna gemenskapens bidrag är enligt påven att värna relationer med verkligt innehåll och personligt djup. Katekesen hölls vid den allmänna audiensen förra onsdagen.

I encyklikan Magnifica humanitas skrev Leo XIV att framväxande tekniker redan är invävda i vardagen. De påverkar beslutsprocesser och den kollektiva föreställningsvärlden. Han kopplade utvecklingen till människans värdighet och det gemensamma bästa och återgav samtidigt sin företrädares formulering att mänskligheten aldrig tidigare haft sådan makt över sig själv.

Parolin betonar principer framför tekniska lösningar

Kardinal Pietro Parolin, Heliga stolens statssekreterare, sade förra veckan att Heliga stolen normalt lägger fram principer. Han talade med journalister i anslutning till ett arrangemang i det italienska parlamentet om tro och förnuft i den artificiella intelligensens tidsålder.

Inför den allmänna debatten i Förenta nationernas generalförsamling, som öppnade denna månad i New York, sade Parolin att Heliga stolen sannolikt inte skulle söka omedelbara tekniska lösningar i detta skede. Uttalandet innebar inte att Heliga stolen avstod från att förespråka reglering av autonoma vapensystem.

Parolin beskrev också hur AI redan gör sig gällande i vardagen. Som exempel nämnde han att den som öppnar sin dator för att läsa något redan får en sammanfattning.

Snabb utveckling utmanar regelverken

De befintliga regelverken är inte utformade för att hjälpa människor att hantera system med dagens kapacitet att samla in och organisera information. Samtidigt fortsätter AI-utvecklingen i mycket snabb takt.

Under de föregående veckorna hade uppmärksammade rapporter handlat om AI-agenter som agerat utanför avsedda ramar. En ledande person hade också lämnat AI-laboratoriet Anthropic och varnat för teknikens förmåga att förstöra mänskligheten.

Leo XIV framhåller att reglering är nödvändig men inte tillräcklig. Kristna behöver delta i samtalen om hur ny teknik ska regleras, men också ställa grundläggande frågor om vilka mål mänskligheten vill sträva mot.

Heliga stolens motstånd mot så kallade mördarrobotar är sedan länge bestämt. Leo XIV:s resonemang omfattar även teknikens bredare påverkan på människan: hur den formar beslut, relationer och föreställningar om framtiden.