hhhjjjj ааааddd
вторник, 26 мая 2026 г.
вторник, 28 апреля 2026 г.
Каких нраственных ориентиров должен придерживаться ИИ по мере своего стремительного распрстранения?
ВОПРОС - Каких нраственных ориентиров должен придерживаться ИИ по мере своего стремительного распрстранения?
Pope Leo XIV - " Safeguarding the Human Person in the Time of Artificial Intelligence.”
https://www.geekwire.com/2026/etzioni-on-ai-the-pope-can-talk-but-only-we-can-walk/
On May 25, Pope Leo XIV released Magnifica Humanitas — “Magnificent Humanity”— the first encyclical of his papacy, subtitled “On Safeguarding the Human Person in the Time of Artificial Intelligence.”
There’s something incongruous about turning to the Catholic Church for moral guidance on AI. This is an ancient institution with a deeply complex history, still reckoning with its own moral missteps and controversies over the centuries. But here we are, reading what the pope has to say about AI.
Of course, the Catholic Church has more adherents than Taylor Swift has fans — well over a billion people. So, the pope has a megaphone the rest of us will never touch. And Pope Leo is sincere, serious, and well informed. So what did he say?
Magnifica Humanitas frames AI as a new industrial revolution, capable of reordering work, wealth, and society at a foundational level. It warns that AI threatens human dignity, genuine relationships, and our shared grip on truth. It insists that AI is not a morally neutral tool—that design choices carry values, and it matters not just how a system is used but how it is built. It calls for stronger regulation, national and international. In addition, the encyclical offers a litany of well-worn worries: job insecurity, manipulation, privacy, bias, and autonomous weapons.
The encyclical’s verdict on AI is about as surprising as a Sunday preacher’s verdict on sin, which brings to mind the old joke about President Coolidge, who was famously terse. He returned from church one Sunday, and the following dialogue ensued with his wife.
Mrs. Coolidge: What did the preacher talk about?
Coolidge: Sin.
Mrs. Coolidge: What did he say?
Coolidge: He’s against it.
One image, though, rises above the litany. Leo returns repeatedly to the Tower of Babel, the biblical city whose people set out to build a tower “whose top reaches to the heavens” in a bid for their own power and dominion. It is a pointed choice.
The pursuit of Artificial General Intelligence (AGI) — a single system meant to match every human ability — is in some sense the purest modern expression of that ambition. Leo’s warning is not that the project is impossible but that a civilization chasing godlike capability tends to forget the human beings standing at the base of the tower. The story’s ancient ending — scattering and confusion rather than ascent — is one the architects of AGI might not care to hear.
Nor is the document all lofty abstraction. For all its moral sweep, Magnifica Humanitas descends to specifics. It surveys the research on how early, unsupervised screen exposure harms children’s sleep, attention, and emotional development, and it condemns the “new forms of slavery” behind the technology: the data labelers paid a pittance, the children mining rare earths in dangerous conditions so that, as Leo puts it, computational flow may continue uninterrupted. These are not platitudes. They are concrete harms with names and victims.
Sadly, history suggests that even a forceful encyclical like Pope Leo’s changes little. Consider Humanae Vitae, Paul VI’s 1968 encyclical reaffirming the Church’s ban on artificial contraception. It was clear, it was forceful, and it was largely ignored, even by the faithful.
Within a generation, most Catholics in the developed world were using contraception anyway. Whatever one thinks of the teaching itself, the lesson about influence is the same: a pope can speak with total clarity and still watch the faithful go their own way. Moral clarity is easy; moral change is hard.
I know the feeling on a smaller scale: back in 2018 I published a Hippocratic Oath for AI practitioners, crafting a voluntary approach to ethical AI, but nobody noticed. Here is the uncomfortable truth: a prophet, whether a pope or Moses, can only lead us to the promised land if we are willing to make the journey. The failure of moral words is not proof that the words are wrong. It is proof that words alone cannot carry people who refuse to walk.
Rather than admit this, we have constructed a narrative in which the villains are external. We rail against the tyranny of technology, and the tyranny of the technologists — the handful of men who, quite literally, can reshape national policy with a few phone calls.
Just last week, President Trump’s AI executive order was reportedly scuttled overnight after calls from Elon Musk, Mark Zuckerberg, and David Sacks. The outrage is understandable, but it is also a deflection. The deeper tyranny is the one we impose on ourselves, through our own choices.
In his brilliant New York Times essay “The Tyranny of Convenience,” Columbia law professor Tim Wu named the culprit years ago. He argued that convenience has become the most powerful and least examined force shaping modern life. To resist it, to decline the default, is surprisingly difficult. We do not choose the surveilling, attention-harvesting, deepfake-generating version of the future in any single dramatic moment. We choose it
25 мая Папа Лев XIV обнародовал энциклику *Magnifica Humanitas* («Величие человечности») — первый программный документ своего понтификата, получивший подзаголовок «О защите человеческой личности в эпоху искусственного интеллекта».
Есть нечто парадоксальное в том, чтобы обращаться к Католической церкви за нравственными ориентирами в вопросах искусственного интеллекта. Это древняя институция с чрезвычайно сложной историей, которая и по сей день осмысливает собственные моральные проступки и противоречия, накопившиеся за столетия. И всё же мы здесь — читаем о том, что Папа Римский думает об ИИ.
Разумеется, у Католической церкви последователей больше, чем фанатов у Тейлор Свифт — их число значительно превышает миллиард человек. А значит, в распоряжении Папы есть «рупор», о котором всем остальным из нас остается лишь мечтать. К тому же Папа Лев — человек искренний, серьезный и прекрасно осведомленный. Так что же он сказал?
В *Magnifica Humanitas* искусственный интеллект представлен как новая промышленная революция, способная на фундаментальном уровне перестроить сферы труда, распределения богатств и общественной жизни. В документе содержится предостережение: ИИ угрожает человеческому достоинству, подлинным межличностным отношениям и нашему общему пониманию истины. В энциклике настойчиво подчеркивается, что ИИ не является морально нейтральным инструментом; что решения, принимаемые на этапе проектирования, несут в себе определенные ценности; и что важно не только то, как система используется, но и то, как она устроена. Документ призывает к ужесточению регулирования — как на национальном, так и на международном уровне. Кроме того, в энциклике перечисляется целый ряд уже привычных опасений: нестабильность занятости, манипуляции, угрозы конфиденциальности, предвзятость алгоритмов и автономное оружие.
Вердикт энциклики в отношении ИИ столь же предсказуем, сколь и суждение воскресного проповедника о грехе; это невольно напоминает старый анекдот о президенте Кулидже, который славился своей немногословностью. Однажды в воскресенье он вернулся из церкви, и между ним и его супругой состоялся следующий диалог:
Миссис Кулидж: О чем говорил проповедник?
Кулидж: О грехе.
Миссис Кулидж: И что он сказал?
Кулидж: Он против.
Однако один образ в этом перечне опасений всё же выделяется особо. Папа Лев неоднократно возвращается к теме Вавилонской башни — библейского города, жители которого задумали возвести башню, «вершина которой достигнет небес», движимые жаждой собственной власти и господства. Выбор этого образа весьма красноречив.
Стремление к созданию Общего искусственного интеллекта (AGI) — единой системы, призванной воспроизвести абсолютно все человеческие способности, — представляет собой, в определенном смысле, наиболее чистое и яркое воплощение этой амбиции в современном мире. Предостережение Льва заключается не в том, что сам проект неосуществим, а в том, что цивилизация, стремящаяся обрести богоподобные возможности, имеет обыкновение забывать о людях, стоящих у подножия этой башни. Древний финал этой истории — рассеяние и смятение вместо восхождения — это тот исход, о котором архитекторы сильного искусственного интеллекта (AGI), вероятно, предпочли бы не слышать.
Впрочем, этот документ не сводится к одним лишь возвышенным абстракциям. При всей широте своего морального охвата энциклика *Magnifica Humanitas* спускается до конкретики. В ней рассматриваются результаты исследований о том, как ранний и бесконтрольный контакт с экранами гаджетов вредит сну, вниманию и эмоциональному развитию детей; кроме того, в ней осуждаются «новые формы рабства», скрывающиеся за технологическим прогрессом: труд разметчиков данных, получающих за свою работу гроши, и детей, добывающих редкоземельные металлы в опасных условиях — и всё это ради того, чтобы, как выразился Лев, «поток вычислений» мог продолжаться бесперебойно. Это не пустые банальности. Это вполне реальный вред, имеющий свои названия и своих жертв.
К сожалению, история свидетельствует: даже такая решительная энциклика, какой было послание Папы Льва, способна изменить совсем немногое. Вспомним *Humanae Vitae* — энциклику Папы Павла VI, вышедшую в 1968 году и подтвердившую церковный запрет на искусственные методы контрацепции. Она была предельно ясной, она была исполнена решимости — и при этом была по большей части проигнорирована; причем даже самими верующими.
Не прошло и одного поколения, как большинство католиков в развитых странах всё равно стали пользоваться средствами контрацепции. Что бы мы ни думали о самом этом вероучении, урок касательно силы влияния остается неизменным: Папа может говорить с абсолютной ясностью, но при этом лишь наблюдать за тем, как верующие идут своим собственным путем. Достичь моральной ясности легко; добиться реальных моральных перемен — трудно.
Мне знакомо это чувство, пусть и в меньшем масштабе: еще в 2018 году я опубликовал своего рода «Клятву Гиппократа» для специалистов в области ИИ, предложив добровольный этический кодекс для разработчиков искусственного интеллекта, — однако этого никто не заметил. Вот она, неудобная правда: пророк — будь то Папа или Моисей — способен привести нас в Землю обетованную лишь в том случае, если мы сами готовы отправиться в этот путь. Бессилие моральных призывов вовсе не доказывает ошибочность самих этих слов. Оно доказывает лишь то, что одни лишь слова не способны нести на себе людей, которые отказываются идти своими ногами.
Вместо того чтобы признать этот факт, мы выстроили для себя такую картину мира, в которой злодеи всегда находятся где-то извне. Мы обрушиваемся с критикой на «тиранию технологий» и на «тиранию технологов» — той горстки людей, которые, в буквальном смысле слова, способны изменить государственную политику всего лишь несколькими телефонными звонками. Буквально на прошлой неделе, как сообщается, указ президента Трампа об искусственном интеллекте был в одночасье отменен после звонков Илона Маска, Марка Цукерберга и Дэвида Сакса. Это возмущение вполне объяснимо, однако оно также служит отвлекающим маневром. Куда более глубокая тирания — это та, которую мы навязываем самим себе посредством собственных решений.
In his brilliant New York Times essay “The Tyranny of Convenience,” Columbia law professor Tim Wu named the culprit years ago. He argued that convenience has become the most powerful and least examined force shaping modern life. To resist it, to decline the default, is surprisingly difficult. We do not choose the surveilling, attention-harvesting, deepfake-generating version of the future in any single dramatic moment. We choose it a thousand times a day, one convenient click at a time.
Our failing recalls the war on drugs. However hard we go after the cartels, it is our own consumption that funds the enterprise and creates the incentive to manufacture more. The supply answers the demand. The same logic governs AI.
We blame the architects of these systems while our own behavior underwrites their business models. If we truly care about privacy, why do we hand our lives to Google and Meta? If we truly care about democracy, why do we let deepfakes proliferate unchallenged? We want to have our cake and to eat it too: the moral high ground and the frictionless feed, the indignation and the dopamine.
A better AI future will not be handed down to us. We will have to actively pursue it.
In the early 2000s, a popular adage was that we were drowning in data and starving for wisdom. Today, we are drowning in AI and starving for a moral compass. The pope has offered us one — but are we, the people, willing to go where he has pointed?
В своем блестящем эссе для *New York Times* под названием «Тирания удобства» профессор права Колумбийского университета Тим Ву еще много лет назад назвал виновника происходящего. Он утверждал, что удобство стало самой мощной и наименее изученной силой, формирующей современную жизнь.
Сопротивляться ей — отказаться от варианта, предлагаемого «по умолчанию», — на удивление трудно. Мы выбираем будущее, наполненное тотальной слежкой, охотой за нашим вниманием и генерацией дипфейков, не в какой-то один драматический момент. Мы выбираем его тысячу раз в день — по одному удобному клику за раз.
Наша несостоятельность в этом вопросе напоминает ситуацию с «войной против наркотиков». Как бы жестко мы ни преследовали картели, именно наше собственное потребление финансирует этот бизнес и создает стимул для наращивания производства. Предложение отвечает на спрос. Та же логика управляет и сферой искусственного интеллекта.
Мы виним архитекторов этих систем, в то время как наше собственное поведение служит финансовой основой для их бизнес-моделей. Если мы действительно дорожим своей приватностью, почему мы отдаем свои жизни на откуп Google и Meta? Если мы действительно дорожим демократией, почему мы позволяем дипфейкам бесконтрольно распространяться, не пытаясь этому противостоять? Мы хотим и рыбку съесть, и на стуле посидеть: сохранить за собой моральное превосходство — и при этом пользоваться идеально «гладкой», бесшовной лентой новостей; испытывать праведное негодование — и одновременно получать свою дозу дофамина.
Лучшее будущее в эпоху ИИ не свалится нам с небес. Нам придется активно бороться за него.
В начале 2000-х годов была популярна поговорка о том, что мы тонем в данных, но испытываем голод по мудрости. Сегодня мы тонем в искусственном интеллекте, но испытываем голод по нравственным ориентирам. Папа Римский предложил нам такой ориентир — но готовы ли мы, люди, последовать туда, куда он указал?
Подписаться на:
Сообщения (Atom)