Tehisintellekt ja rahu
Uue aasta alguses, armuajal, mille Issand annab igaühele, tahan pöörduda Jumala rahva, erinevate rahvaste, riigipeade ja valitsusjuhtide, erinevate religioonide ja kodanikuühiskonna juhtide ja kõigi meie aja meeste ja naiste poole, et soovida omalt poolt kirglikult head rahu.
Teaduse ja tehnoloogia areng kui tee rahuni
Pühakiri kinnitab, et Jumal andis oma Vaimu inimestele, et neil oleks „tarkust, mõistust ja teadmisi ning igasugu tööoskust“ (2Ms 35:31). Inimese intelligentsus väljendab väärikust, millega meid õnnistas Looja, kes lõi meid oma näo järgi ja sarnaseks (vrd 1Ms 1:26) ning lubas meil tema armastusele teadlikult ja vabalt vastata. Teatud viisil näitavad teadus ja tehnoloogia seda inimmõistuse põhimõtteliselt relatiivset kvaliteeti; need on selle loomingulise potentsiaali suurepärased tooted.
Hingekarjase konstitutsioonis Gaudium et spes kordas Vatikani II kirikukogu seda tõde, kuulutades, et „oma töö ja sünnipärase panuse abil on inimkond lakkamatult püüdnud oma elu paremaks muuta.“ [1] Kui inimesed püüavad „tehnoloogia abil“ muuta „maa eluasemeks, mis vääriks kogu inimeste perekonda,“ [2] viivad nad ellu Jumala plaani ja teevad koostööd tema tahtega täiustada loodut ja tuua rahu rahvaste sekka. Teaduse ja tehnoloogia areng, niivõrd kui see aitab kaasa suuremale korrale inimühiskonnas ning suuremale vennalikule osadusele ja vabadusele, viib seega inimkonna paranemiseni ja maailma muutumiseni.
Õigustatult rõõmustame ja täname teaduse ja tehnika muljetavaldavate saavutuste eest, mille tulemusel on parandatud lugematu hulk varem inimelu kimbutanud ja suuri kannatusi põhjustanud hädasid. Samal ajal annavad tehno-teaduslikud edusammud, võimaldades teostada seninägematut kontrolli reaalsuse üle, inimeste kätte suure hulga valikuvõimalusi, sealhulgas selliseid, mis võivad ohustada meie ellujäämist ja meie ühist kodu. [3]
Märkimisväärsed edusammud uutes infotehnoloogiates, eriti digitaalvaldkonnas, pakuvad seega põnevaid võimalusi ja tõsiseid riske, millel on tõsine mõju õigluse ja rahvaste vahelise harmoonia poole püüdlemisele. Tuleb esitada palju kiireloomulisi küsimusi. Millised on nende uute digitaaltehnoloogiate tagajärjed keskmises ja pikas perspektiivis? Ja millist mõju avaldavad need üksikisiku elule ja ühiskonnale, rahvusvahelisele stabiilsusele ja rahule?
Tehisintellekti tulevik: lubaduse ja riski vahel
Infotehnoloogia edusammud ja digitaaltehnoloogia areng viimastel aastakümnetel on globaalses ühiskonnas ja selle erinevates dünaamikates juba tekitanud põhjalikke muutusi. Uued digitaalsed tööriistad muudavad praegugi kommunikatsiooni, avaliku halduse, hariduse, tarbimise, isikliku suhtluse ja lugematute muude igapäevaelu aspektide nägu.
Lisaks saavad Internetis levinud digitaalsetest jalajälgedest erinevaid algoritme kasutavad tehnoloogiad eraldada andmeid, mis võimaldavad neil kontrollida vaimseid ja suhtelisi harjumusi ärilistel või poliitilistel eesmärkidel, sageli meie teadmata, piirates seega meie valikuvabaduse teadlikku kasutamist. Sellises ruumis nagu Veeb, mida iseloomustab teabe üleküllus, saavad nad andmevoo struktureerida vastavalt valikukriteeriumidele, mida kasutaja alati ei taju.
Peame meeles pidama, et teadusuuringud ja tehnoloogilised uuendused ei ole kehatud ja „neutraalsed“, [4] vaid alluvad kultuurilistele mõjudele. Täielikult inimtegevusena peegeldavad nende poolt võetud suunad valikuid, mis on tingitud isiklikest, sotsiaalsetest ja kultuurilistest väärtustest igal konkreetsel ajal. Sama saab öelda nende tulemuste kohta: ümbritsevale maailmale just konkreetsetel inimlikel viisidel lähenemise tulemusel on neil alati eetiline mõõde, mis on tihedalt seotud otsustega, mille teevad need, kes kavandavad oma katseid ja suunavad oma toodangut kindlate eesmärkide poole.
See kehtib ka tehisintellekti vormide kohta. Siiani ei ole teaduse ja tehnoloogia maailmas tehisintellekti ühtset määratlust. Mõiste ise, mis praeguseks on jõudnud igapäevakeelde, hõlmab mitmesuguseid teadusi, teooriaid ja tehnikaid, mille eesmärk on panna masinad reprodutseerima või jäljendama oma toimimises inimeste kognitiivseid võimeid. Rääkimine „intellekti vormidest“ mitmuses võib aidata rõhutada ennekõike ületamatut lõhet selliste süsteemide, olgugi need hämmastavad ja võimsad, ja inimese vahel: lõppkokkuvõttes on need vaid „fragmentaarsed“ selles mõttes, et nad suudavad imiteerida või reprodutseerida ainult teatud inimmõistuse funktsioone. Mitmuse kasutamine toob samuti välja tõsiasja, et need seadmed erinevad üksteisest suuresti ja neid tuleks alati käsitleda kui „sotsiaaltehnilisi süsteeme“. Iga tehisintellekti seadme mõju – sõltumata selle aluseks olevast tehnoloogiast – ei sõltu mitte ainult selle tehnilisest disainist, vaid ka selle omanike ja arendajate eesmärkidest ja huvidest ning olukordadest, milles seadet kasutatakse.
Tehisintellekti tuleks seega mõista kui erinevate reaalsuste galaktikat. Me ei saa a priori eeldada, et selle areng annab kasuliku panuse inimkonna tulevikku ja rahvaste vahelisse rahusse. See positiivne tulemus saavutatakse ainult siis, kui suudame käituda vastutustundlikult ja austada selliseid põhiväärtusi nagu „kaasamine, läbipaistvus, turvalisus, õiglus, privaatsus ja usaldusväärsus“. [5]
Samuti ei piisa lihtsalt eeldamisest, et algoritmide ja digitaaltehnoloogiate väljatöötajad kohustuvad tegutsema eetiliselt ja vastutustundlikult. Vaja on tugevdada või vajaduse korral luua asutusi, mille ülesandeks on selles valdkonnas tekkivate eetiliste küsimuste käsitlemine ja tehisintellekti vorme kasutavate või nendest mõjutatud inimeste õiguste kaitse. [6]
Tehnoloogia tohutu laienemisega peab seega kaasnema asjakohane vastutus selle edasise arengu eest. Vabadus ja rahumeelne kooseksisteerimine on ohus alati, kui inimesed annavad järele isekuse, omakasu, kasumiiha ja võimujanu kiusatustele. Seega on meil kohustus avardada oma pilku ja suunata tehnoteaduslikud uuringud rahu ja ühiste hüvede poole püüdlemiseks, et teenida üksikisikute ja kogukondade terviklikku arengut. [7]
Iga inimese loomupärane väärikus ja vendlus, mis seob meid kui inimeste ühtse pere liikmeid, peavad toetama uute tehnoloogiate arengut ja olema vaieldamatud kriteeriumid nende hindamisel enne nende tööle asumist, et digitaalne areng toimuks õiglust austades ja aitaks kaasa rahu saavutamisele. Tehnoloogilist arengut, mis ei too kaasa kogu inimkonna elukvaliteedi paranemist, vaid vastupidi süvendab ebavõrdsust ja konflikte, ei saa kunagi lugeda tõeliseks progressiks. [8]
Tehisintellekt muutub üha olulisemaks. Sellega kaasnevad väljakutsed on tehnoloogilised, aga ka antropoloogilised, hariduslikud, sotsiaalsed ja poliitilised. See lubab näiteks vabanemist tööjõust, tõhusamat tootmist, lihtsamat transporti ja rohkem valmis turge, aga ka revolutsiooni andmete kogumise, korrastamise ja kinnitamise protsessides. Peame olema teadlikud praegu toimuvatest kiiretest muutustest ja juhtima neid viisil, mis kaitseb põhilisi inimõigusi ning austab institutsioone ja seadusi, mis edendavad terviklikku inimarengut. Tehisintellekt peab teenima meie parimat inimpotentsiaali ja meie kõrgeimaid püüdlusi, mitte nendega konkureerima.
Tulevikutehnoloogia: masinad, mis „õpivad“ ise
Masinõppetehnikatel põhinev tehisintellekt on oma mitmel kujul, olles alles oma teedrajavas faasis, juba kaasa toonud märkimisväärseid muutusi ühiskondade struktuuris ning avaldanud sügavat mõju kultuuridele, ühiskonna käitumisele ja rahutagamisele.
Sellised arengud nagu masinõpe või süvaõpe tõstatavad küsimusi, mis ületavad tehnoloogia ja inseneriteaduse valdkondi ning on seotud inimelu tähenduse sügavama mõistmisega, teadmiste konstrueerimisega ja mõistuse võimega tõeni jõuda.
Teatud seadmete võime toota näiteks süntaktiliselt ja semantiliselt sidusaid tekste ei garanteeri nende usaldusväärsust. Väidetavalt nad „hallutsineerivad“, st loovad väiteid, mis esmapilgul tunduvad usutavad, kuid on alusetud või reedavad eelarvamusi. See kujutab endast tõsist probleemi, kui tehisintellekti kasutatakse desinformatsioonikampaaniates, mis levitavad valeuudiseid ja põhjustavad kommunikatsioonimeedia suhtes kasvavat usaldamatust. Privaatsus, andmete omamine ja intellektuaalomand on muud valdkonnad, kus need tehnoloogiad toovad kaasa tõsiseid riske. Sellele võib lisada ka muud nende tehnoloogiate väärkasutuse negatiivsed tagajärjed, nagu diskrimineerimine, valimistesse sekkumine, jälgimisühiskonna esile tõus, digitaalne tõrjutus ja ühiskonnast üha enam eraldatud individualismi süvenemine. Kõik need tegurid võivad tekitada konflikte ja takistada rahu.
Piiritunne tehnokraatlikus paradigmas
Meie maailm on liiga suur, mitmekesine ja keeruline, et seda kunagi täielikult tunda ja kategoriseerida. Inimmõistus ei saa kunagi oma rikkust ammendada, isegi kõige arenenumate algoritmide abil. Sellised algoritmid ei paku garanteeritud tulevikuprognoose, vaid ainult statistilisi lähendusi. Kõike ei saa prognoosida, kõike ei saa välja arvutada; lõpuks on „tegelikkus ideest suurem“. [9] Ükskõik kui suurepärane meie arvutusvõime ka poleks, leidub alati ligipääsmatu jääk, mis väldib igasugust kvantifitseerimiskatset.
Lisaks ei garanteeri tehisintellektide analüüsitud suur hulk andmeid iseenesest erapooletust. Kui algoritmid ekstrapoleerivad teavet, ähvardab neid alati moonutamise oht, korrates nende päritolukeskkonna ebaõiglust ja eelarvamusi. Mida kiiremaks ja keerukamaks need muutuvad, seda raskem on mõista, miks nad konkreetse tulemuse andsid.
„Intelligentsed“ masinad võivad täita neile pandud ülesandeid üha tõhusamalt, kuid nende tegevuse eesmärgi ja tähenduse määravad või võimaldavad jätkuvalt inimesed, kellel on oma väärtuste universum. On oht, et teatud otsuste aluseks olevad kriteeriumid muutuvad vähem selgeks, vastutust nende otsuste eest varjatakse ja tootjatel on võimalik kõrvale hoida kohustusest tegutseda kogukonna hüvanguks. Mõnes mõttes soosib seda tehnokraatlik süsteem, mis ühendab majanduse tehnoloogiaga ja eelistab efektiivsuse kriteeriumi, kaldudes ignoreerima kõike, mis pole seotud tema vahetute huvidega. [10]
See peaks panema meid mõtlema millegi üle, mida meie praeguses tehnokraatlikus ja tõhususele orienteeritud mentaliteedis sageli tähelepanuta jäetakse, kuna see on isikliku ja sotsiaalse arengu jaoks otsustava tähtsusega: „piiritunne“. Inimesed on definitsiooni järgi surelikud; tehes ettepaneku ületada tehnoloogia abil kõik piirid, kinnisideelises soovis kõike kontrollida, riskime kaotada kontrolli enda üle; absoluutse vabaduse poole püüeldes riskime sattuda „tehnoloogilise diktatuuri“ spiraali. Meie kui olendite piiride teadvustamine ja aktsepteerimine on hädavajalik tingimus, et jõuda rahuloluni või veelgi parem seda kingina tervitada. Tehnokraatliku paradigma ideoloogilises kontekstis, mis on inspireeritud Prometheuse isemajandamise eeldusest, võib ebavõrdsus ebaproportsionaalselt kasvada, teadmised ja rikkus kogunevad väheste kätte ning sellega kaasnevad tõsised ohud demokraatlikele ühiskondadele ja rahumeelsele kooseksisteerimisele. [11]
Põletavad eetikaprobleemid
Tulevikus saaks hüpoteeklaenu taotleja usaldusväärsust, isiku sobivust töökohale, süüdimõistetu korduvkuritegevuse võimalust või õigust saada poliitilist varjupaika või sotsiaalabi määrata tehisintellekti süsteemide abil. Erinevate vahendustasandite puudumine, mida need süsteemid juurutavad, on eriti avatud eelarvamuste ja diskrimineerimise vormidele: süsteemsed vead võivad kergesti paljuneda, põhjustades mitte ainult üksikjuhtudel ebaõiglust, vaid doominoefekti tõttu ka sotsiaalse ebavõrdsuse tõelisi vorme.
Mõnikord näivad tehisintellekti vormid olevat võimelised mõjutama inimeste otsuseid, toimides eelnevalt kindlaksmääratud võimaluste kaudu, mis on seotud stiimulite ja heidutustega, või toimides läbi infodisainil põhineva inimeste valikuid reguleeriva süsteemi. Sellised manipuleerimise või sotsiaalse kontrolli vormid nõuavad hoolikat tähelepanu ja järelevalvet ning nende tootjate, nende juurutajate ja valitsusasutuste selget juriidilist vastutust.
Toetumine automaatsetele protsessidele, mis kategoriseerivad üksikisikuid, näiteks laialdase jälgimise või sotsiaalsete krediidisüsteemide kasutuselevõtu kaudu, võib samuti avaldada sügavat mõju sotsiaalsele struktuurile, luues kodanike seas paremusjärjestuse. Need kunstlikud kategoriseerimisprotsessid võivad viia ka võimukonfliktideni, kuna need ei puuduta ainult virtuaalseid kasutajaid, vaid reaalseid inimesi. Põhimõtteline inimväärikuse austamine nõuab, et me keelduksime lubamast isiku unikaalsuse tuvastamist andmete kogumiga. Algoritmidel ei tohi lasta määrata, kuidas me inimõigusi mõistame, kõrvale jätta olulisi inimlikke väärtusi nagu kaastunne, halastus ja andestus, ega välistada võimalust, et üksikisik muutub ja jätab oma mineviku selja taha.
Samuti ei saa me jätta selles kontekstis arvestamata uute tehnoloogiate mõju töökohtadele. Töökohti, mis olid kunagi ainult inimtöö valdkonnaks, võtavad kiiresti üle tehisintellekti tööstuslikud rakendused. Ka siin on suur oht saada vähestele ebaproportsionaalselt palju kasu paljude vaesumise hinnaga. Töötajate väärikuse austamine ja tööhõive tähtsus üksikisikute, perede ja ühiskondade majandusliku heaolu, töökoha kindluse ja õiglaste palkade jaoks peaks olema rahvusvahelise üldsuse jaoks esmatähtis, kuna need tehnoloogiavormid tungivad sügavamale meie töökohtadesse.
Kas muudame mõõgad põllumaadeks?
Vaadates praegusel ajal meid ümbritsevat maailma ei saa mööda minna tõsistest eetilistest küsimustest, mis on seotud relvastussektoriga. Võimalus viia läbi sõjalisi operatsioone kaugjuhtimissüsteemide abil on vähendanud arusaama nende relvasüsteemide põhjustatud laastamistööst ja vastutuse koormast nende kasutamise eest, mille tulemuseks on veelgi külmem ja eraldatum lähenemine sõja tohutule tragöödiale. Uute tehnoloogiate uuringud niinimetatud autonoomsete surmavate relvasüsteemide valdkonnas, sealhulgas tehisintellekti relvastamise valdkonnas, on tõsine eetiline mure. Autonoomsed relvasüsteemid ei saa kunagi olla moraalselt vastutustundlikud subjektid. Inimese ainulaadne võime moraalseks hinnanguks ja eetiliste otsuste langetamiseks on midagi enamat kui algoritmide kompleks ja seda võimet ei saa taandada masina programmeerimisele, mis nii „intelligentne“ kui see ka pole, jääb masinaks. Sel põhjusel on hädavajalik tagada piisav, sisuline ja järjepidev inimjärelevalve relvasüsteemide üle.
Samuti ei saa me ignoreerida võimalust, et keerukad relvad satuvad valedesse kätesse, hõlbustades näiteks terrorirünnakuid või sekkumisi, mille eesmärk on destabiliseerida legitiimsete valitsussüsteemide institutsioone. Ühesõnaga, maailm ei vaja uusi tehnoloogiaid, mis aitavad kaasa kaubanduse ja relvakaubanduse ebaõiglasele arengule ning järelikult soodustavad sõjarumalust. Seda tehes ei riskiks mitte ainult intellekt, vaid ka inimsüda võib muutuda üha „tehislikumaks“. Kõige arenenumaid tehnoloogilisi rakendusi ei tohi kasutada konfliktide vägivaldse lahendamise hõlbustamiseks, vaid pigem rahu saavutamiseks.
Positiivsem külg on see, et kui tehisintellekti kasutatakse inimkonna tervikliku arengu edendamiseks, võib see tuua kaasa olulisi uuendusi põllumajanduses, hariduses ja kultuuris, parandada tervete rahvuste ja rahvaste elutaset ning suurendada inimeste vendlust ja sotsiaalset sõprust. Lõpuks saab meie inimlikkuse tõeliseks mõõdupuuks viis, kuidas me seda kasutame oma kõige vähemate vendade ja õdede, haavatavate ja kõige enam abi vajajate kaasamiseks.
Autentselt humaanne väljavaade ja soov meie maailmale parema tuleviku järele viitab kindlasti valdkonnaülese dialoogi vajadusele, mille eesmärk on algoritmide eetiline arendamine – algoritm-eetika –, milles väärtushinnangud kujundavad uute tehnoloogiate suundi. [12] Ka eetilisi kaalutlusi tuleks arvesse võtta juba uurimistöö algusest peale ning neid tuleks jätkata katsetamise, disaini, tootmise, levitamise ja turustamise etapis. See on disainitud eetika lähenemisviis ja selles on haridusasutustel ja otsustajatel oluline roll.
Väljakutsed haridusele
Inimväärikust austava ja teeniva tehnoloogia arengul on selged tagajärjed meie haridusasutustele ja kultuurimaailmale. Kommunikatsioonivõimalusi mitmekordistades on digitaaltehnoloogiad võimaldanud meil üksteisega uutel viisidel kohtuda. Siiski on vaja püsivat järelemõtlemist suhete üle, milleni nad meid suunavad. Meie noored kasvavad üles tehnoloogiast läbi imbunud kultuurikeskkondades ning see ei saa jätta proovile panemata meie õpetamis-, kasvatus- ja koolitusmeetodeid.
Tehisintellekti vormide kasutamise alane koolitus peaks olema suunatud eelkõige kriitilise mõtlemise edendamisele. Igas vanuses kasutajad, aga eriti noored, peavad välja töötama tähelepaneliku lähenemise veebis kogutud või tehisintellektisüsteemide toodetud andmete ja sisu kasutamisele. Koolidel, ülikoolidel ja teadusühingutel on väljakutse aidata õpilastel ja spetsialistidel mõista tehnoloogia arendamise ja kasutamise sotsiaalseid ja eetilisi aspekte.
Uute kommunikatsioonivahendite kasutamise koolitusel tuleks lisaks desinformatsioonile, „võltsuudistele“ arvesse võtta ka „teatud esivanemate hirmude... mis on suutnud peituda ja levida uute tehnoloogiate taga“ häirivat taastumist.“ [13] Kahjuks peame taaskord võitlema „kiusatusega ehitada müüride kultuuri, tekitada müüre... et vältida kohtumist teiste kultuuride ja teiste rahvastega“ [14] ning takistada rahumeelse ja vennaliku kooselu arengut.
Rahvusvahelise õiguse arengu väljakutsed
Tehisintellekti globaalne mastaap näitab selgelt, et lisaks suveräänsete riikide vastutusele selle kasutamise sisemiselt reguleerimisel võivad rahvusvahelised organisatsioonid mängida otsustavat rolli mitmepoolsete kokkulepete saavutamisel ning nende kohaldamise ja jõustamise koordineerimisel. [15] Sellega seoses kutsun üleilmset rahvaste kogukonda tegema koostööd, et võtta vastu siduv rahvusvaheline leping, mis reguleeriks tehisintellekti mitmel kujul arendamist ja kasutamist. Reguleerimise eesmärk ei peaks loomulikult olema ainult kahjulike tavade ennetamine, vaid ka parimate tavade julgustamine, ergutades uusi ja loovaid lähenemisviise ning ergutades individuaalseid või rühmaalgatusi. [16]
Normatiivsete mudelite otsimisel, mis võivad anda digitaaltehnoloogia arendajatele eetilisi juhiseid, on hädavajalik määratleda inimlikud väärtused, mis peaksid toetama ühiskondade jõupingutusi väga vajalike regulatiivsete raamistike sõnastamisel, vastuvõtmisel ja jõustamisel. Vaevalt, et tehisintellekti vormide tootmise eetiliste juhiste koostamise töö välistab sügavamate inimeste eksistentsi tähenduse, põhiliste inimõiguste kaitse ning õigluse ja rahu taotlemise küsimuste käsitlemise. See eetilise ja juriidilise eristamise protsess võib osutuda väärtuslikuks võimaluseks ühiseks mõtisklemiseks selle üle, millist rolli peaks tehnoloogia meie isiklikus ja ühiskondlikus elus mängima ning kuidas selle kasutamine võib aidata kaasa õiglasema ja humaansema maailma loomisele. Seetõttu tuleks tehisintellekti reguleerimise üle peetavates debattides arvesse võtta kõigi sidusrühmade hääli, sealhulgas vaeste, võimutute ja teiste, kes globaalsetes otsustusprotsessides sageli kuulmata jäävad.
* * *
Loodan, et eelnev mõttekäik julgustab jõupingutusi tagamaks, et tehisintellekti vormide arendamise edusammud teenivad lõppkokkuvõttes inimeste vendluse ja rahu eesmärki. See ei ole mõne üksiku, vaid kogu inimpere vastutus. Sest rahu on vili suhetest, mis tunnustavad ja tervitavad teisi nende võõrandamatus väärikuses, ning koostöö ja pühendumuse vili kõigi üksikisikute ja rahvaste tervikliku arengu poole püüdlemisel.
Ma palvetan uue aasta alguses, et tehisintellekti vormide kiire areng ei suurendaks tänapäeva maailmas liigagi esinevaid ebavõrdsuse ja ebaõigluse juhtumeid, vaid aitaks lõpetada sõjad ja konfliktid ning leevendada paljusid kannatusi, mis meie inimperekonda vaevavad. Tegutsegu kristlikud usklikud, erinevate religioonide järgijad ning hea tahtega mehed ja naised koos harmoonias, et kasutada digitaalrevolutsiooni pakutavaid võimalusi ja astuda vastu selle väljakutsetele ning anda seeläbi tulevastele põlvedele maailm, kus on suurem solidaarsus, õiglus ja rahu.
Vatikan, 8. detsember 2023
FRANCISCUS
1. No. 33.
2. Ibid., 57.
3. Vrd entsüklika Laudato Si’ (24.mai 2015), 104.
4. Vrd ibid., 114.
5. Address to Participants in the “Minerva Dialogues” (27. märts 2023).
6. Vrd ibid.
7. Vrd Message to the Executive Chairman of the “World Economic Forum” meeting in Davos (12. jaanuar 2018).
8. Vrd entsüklika Laudato Si’ (24. mai 2015), 194; Address to Participants in the Seminar “The Common Good in the Digital Age” (27. september 2019).
9. Apostellik ekshortatsioon Evangelii Gaudium (24. november 2013), 233.
10. Vrd entsüklika Laudato Si’ (24. mai 2015), 54.
11. Vrd Meeting with Participants in the Plenary Assembly of the Pontifical Academy for Life (28. veebruar 2020).
12. Vrd ibid.
13. Entsüklika Fratelli Tutti (3. oktoober 2020), 27.
14. Ibid.
15. Vrd ibid, 170-175.
16. Vrd entsüklika Laudato Si’ (24. mai 2015), 177.
Copyright © Dicastero per la Comunicazione - Libreria Editrice Vaticana