English /
한국어 /
Español /
Українська
Nuclear and AI, War and Peace
Masato Tahara
Nuclear Energy: Its “Light” and “Shadow”
When Einstein derived the equation E = mc2, he opened the door to the possibility of converting mass into energy. This became possible because the slight “mass defect” that arises when an atomic nucleus splits (or fuses) is converted into energy. Even though the mass defect itself is minuscule, when multiplied by the enormous coefficient of the speed of light c (about 3.0 × 108 m/s) squared, the energy produced becomes staggering. Following thermal energy and electrical energy, humanity’s acquisition of “nuclear energy” was, at the time, surely anticipated as a great advance for civilization.
Yet nuclear energy was first put to practical use as a tool of war. Nuclear weapons became a symbol of hegemony, and the race to develop them intensified. The United States dropped atomic bombs on Hiroshima and Nagasaki, partly out of an intent to flaunt its superiority over the Soviet Union. After the war, nuclear power generation was promoted as the “peaceful use” of the atom, but it remains inseparable from the atomic bomb. Because the plutonium produced in reactors keeps emitting radiation, it demands semi-permanent cooling and management. At the same time, possessing plutonium implies a latent capacity for nuclear armament, and so energy policy and military strategy are forever contiguous.
The “Free Energy” Controlled by AI
Today, with the advent of AI, humanity has once again entered a new stage in the use of “energy.”
As a concept that links AI and energy, we can borrow the thermodynamic equation for free energy.
F = U − TS
(F: free energy, U: internal energy, T: absolute temperature, S: entropy)
Even when the total energy of a system (U) is large, when the entropy (S)—which expresses disorder—is also large, it is difficult to extract usable free energy (F). However, AI’s advanced information processing finds order within this “disorder” and, by effectively controlling entropy, brings latent possibility (energy) to the surface.
“AI drug discovery” is emblematic of this. The structural patterns of proteins, built from chains of twenty kinds of amino acids, run into astronomical numbers, and searching by trial and error for an efficacious sequence among them was a state one might call “uncontrollable because the entropy is too large.” But AI inference made it possible to pinpoint optimal sequences, and the efficiency of drug discovery improved dramatically.
Pandora’s Box and the Engineer’s Dilemma
Regrettably, this technology too has been swiftly diverted to military use. AI technology that identifies targets from vast troves of data is said to be built into modern assassination operations and drone weapons. Humanity has once again opened a new Pandora’s box. AI delivers medicine when we wish for drug discovery, and efficient slaughter when we wish for destruction. It is truly a powerful “double-edged sword.”
Moreover, AI consumes enormous amounts of electricity. For that reason, the move to build data centers near nuclear power plants as a power source is also accelerating. As climate change grows more severe, have we—following the atom—produced a tool of self-destruction that hastens humanity’s extinction? Or have we gained a savior that will transform society from its very foundations?
In these circumstances, engineers’ ethics, too, are wavering. The way members who broke from OpenAI over the military use of AI went on to found Anthropic, and the differences in stance among the various companies, call to mind the anguish of the scientists who took part in the Manhattan Project. If Oppenheimer were alive today, what would he think, confronting this AI that could become “Death, the destroyer of worlds”?
Where Our Wishes Lead
Halting the use of AI is no longer realistic. Pandora’s box has already been opened. But if AI is a tool that gives form to “people’s wishes,” then what should we wish for? Surely there remains a path in which we entrust the realization of a sustainable and peaceful society to this new intelligence called AI. To the possibility that AI will discover groundbreaking solutions to problems once thought impossible, I would like to pin humanity’s last hope.
Masato Tahara
Facilitator for social transformation through digital means / Author. He researched the self-organization of slime molds at the Waseda University Graduate School. In 2005, he founded “Fiz Yobi,” Japan’s first online physics preparatory school. Through works such as “Zoom Online Revolution!” and “Emerging Participatory Society,” he has advocated for the shift from mechanistic to biological thinking. Director of the Digital Facilitation Research Institute. He explores the creative application of AI and paves new paths for organizational transformation and the generation of knowledge.
핵과 AI, 전쟁과 평화
마사토 타하라(Masato Tahara)
핵에너지라는 “빛”과 “그림자”
아인슈타인이 E = mc2이라는 수식을 도출했을 때, 질량이 에너지로 변환될 가능성의 문이 열렸다. 이는 원자핵이 분열(또는 융합)할 때 생기는 미세한 “질량 결손”이 에너지로 전환됨으로써 실현되었다. 질량 결손 자체는 미량이라 해도, 거기에 광속 c(약 3.0 × 108 m/s)의 제곱이라는 막대한 계수가 곱해짐으로써, 만들어지는 에너지는 어마어마한 것이 된다. 열에너지, 전기에너지에 이어, 인류가 “핵에너지”를 손에 넣은 것은 당시에는 문명의 큰 진보로 기대받았을 것이다.
그러나 핵에너지가 처음 실용화된 것은 전쟁의 도구로서였다. 핵무기는 패권의 상징이 되었고, 개발 경쟁이 격화되었다. 미국은 소련에 대한 우위를 과시하려는 의도도 포함하여, 히로시마와 나가사키에 원자폭탄을 투하했다. 전후, 핵의 “평화 이용”으로서 원자력 발전이 추진되었지만, 그것은 원폭과 표리일체의 존재이기도 하다. 원전에서 생성되는 플루토늄은 방사선을 계속 방출하기 때문에, 반영구적인 냉각과 관리를 필요로 한다. 동시에, 플루토늄을 보유한다는 것은 잠재적 핵무장 능력을 의미하며, 에너지 정책과 군사 전략은 늘 지속적으로 이어져 있다.
AI가 제어하는 “자유에너지”
현재, AI의 등장에 의해 인류는 다시, 새로운 “에너지”의 활용 단계에 들어섰다.
AI와 에너지를 잇는 개념으로, 열역학의 자유에너지 식을 인용할 수 있다.
F = U − TS
(F: 자유에너지, U: 내부에너지, T: 절대온도, S: 엔트로피)
계 전체의 에너지(U)가 크더라도, 무질서를 나타내는 엔트로피(S)가 큰 상태에서는, 유효하게 이용할 수 있는 자유에너지(F)를 끌어내기는 어렵다. 그러나 AI에 의한 고도의 정보 처리는, 이 “무질서” 안에서 질서를 찾아내고, 실질적으로 엔트로피를 제어함으로써, 묻혀 있던 가능성(에너지)을 표면화시킨다.
예를 들어 “AI 신약 개발”이 그 상징이다. 20종류의 아미노산이 이어져 구성되는 단백질의 구조 패턴은 천문학적인 수에 이르며, 거기에서 약효 있는 배열을 시행착오로 찾는 것은, 말하자면 “엔트로피가 너무 커서 제어 불능”인 상태였다. 그러나 AI의 추론에 의해 최적의 배열을 특정하는 것이 가능해졌고, 신약 개발의 효율은 비약적으로 향상되었다.
판도라의 상자와 기술자의 갈등
유감스럽게도, 이 기술 또한 신속하게 군사 이용으로 전용되고 있다. 방대한 데이터에서 표적을 특정하는 AI 기술은, 현대의 암살 작전이나 드론 무기에 탑재되어 있다고 한다. 인류는 다시, 새로운 판도라의 상자를 열어버린 것이다. AI는, 신약 개발을 바라면 약을, 파괴를 바라면 효율적인 살육을 실현해 버린다. 그야말로 강력한 “양날의 검”이다.
게다가, AI는 막대한 전력을 소비한다. 그 때문에, 전력원으로 원전 근처에 데이터센터를 설치하는 움직임도 가속화되고 있다. 기후 변화가 심각해지는 가운데, 우리는 핵에 이어, 인류의 멸망을 앞당기는 자기 파괴의 도구를 만들어낸 것인가, 아니면 사회를 근저부터 변혁할 구세주를 손에 넣은 것인가.
이 상황 아래에서, 기술자들의 윤리관도 흔들리고 있다. AI의 군사 이용을 둘러싸고, OpenAI에서 이탈한 멤버들이 Anthropic(앤스로픽) 사를 설립한 경위와, 각 기업의 자세 차이는, 일찍이 맨해튼 계획에 참여한 과학자들의 고뇌를 떠올리게 한다. 만약 오펜하이머가 현대에 살아 있다면, 이 AI라는 “죽음, 세계의 파괴자”가 될 수도 있는 기술을 앞에 두고, 무엇을 생각할까.
소원의 행방
AI의 활용을 멈추는 것은, 이미 현실적이지 않다. 판도라의 상자는 이미 열렸다. 그러나 AI가 “사람들의 소원”을 형상화하는 도구라면, 우리는 무엇을 바라야 하는가. 지속 가능하고 평화로운 사회의 실현을, AI라는 새로운 지성에 맡기는 길도 남아 있을 것이다. 일찍이 불가능하다고 여겨졌던 난제에 대해, AI가 획기적인 해법을 찾아낼 가능성에, 인류의 마지막 희망을 걸고 싶다.
타하라 마사토(田原真人)
사회변혁 디지털 퍼실리테이터/저술가. 와세다 대학원에서 점균류의 자기조직화를 연구. 2005년 일본 최초의 온라인 물리 예비학교 “피즈요비”를 창설. 『Zoom 온라인 혁명!』, 『출현하는 참여형 사회』 등의 저작으로 기계론에서 생명론으로의 전환을 제창. 디지털 퍼실리테이션 연구소 대표. AI의 창발적 활용을 탐구하며 조직 변혁과 지식 창출을 개척하고 있다.
Lo nuclear y la IA, la guerra y la paz
Masato Tahara
La energía nuclear: su “luz” y su “sombra”
Cuando Einstein dedujo la ecuación E = mc2, abrió la puerta a la posibilidad de convertir masa en energía. Esto se hizo posible porque el ligero “defecto de masa” que surge cuando un núcleo atómico se fisiona (o se fusiona) se convierte en energía. Aunque el defecto de masa en sí es minúsculo, al multiplicarse por el enorme coeficiente del cuadrado de la velocidad de la luz c (unos 3.0 × 108 m/s), la energía que se produce resulta asombrosa. Tras la energía térmica y la eléctrica, que la humanidad obtuviera la “energía nuclear” se esperaba entonces, sin duda, como un gran avance para la civilización.
Sin embargo, la energía nuclear se utilizó por primera vez como herramienta de guerra. Las armas nucleares se convirtieron en símbolo de hegemonía y la carrera por desarrollarlas se intensificó. Estados Unidos lanzó bombas atómicas sobre Hiroshima y Nagasaki, en parte con la intención de exhibir su superioridad frente a la Unión Soviética. Tras la guerra, la generación nucleoeléctrica se promovió como el “uso pacífico” del átomo, pero es inseparable de la bomba atómica. Como el plutonio que se produce en los reactores sigue emitiendo radiación, exige refrigeración y gestión casi permanentes. Al mismo tiempo, poseer plutonio implica una capacidad latente de armamento nuclear, de modo que la política energética y la estrategia militar son siempre contiguas.
La “energía libre” que controla la IA
Hoy, con la llegada de la IA, la humanidad ha entrado de nuevo en una nueva etapa en el uso de la “energía”.
Como concepto que enlaza IA y energía, podemos tomar prestada la ecuación termodinámica de la energía libre.
F = U − TS
(F: energía libre, U: energía interna, T: temperatura absoluta, S: entropía)
Aun cuando la energía total de un sistema (U) sea grande, en un estado en que la entropía (S), que expresa el desorden, también es grande, resulta difícil extraer energía libre (F) utilizable. Sin embargo, el avanzado procesamiento de información de la IA halla orden dentro de ese “desorden” y, al controlar de hecho la entropía, hace aflorar posibilidades (energía) que estaban latentes.
El “descubrimiento de fármacos con IA” es emblemático. Los patrones estructurales de las proteínas, formadas por cadenas de veinte tipos de aminoácidos, alcanzan cifras astronómicas, y buscar por ensayo y error una secuencia eficaz entre ellos era un estado que podría llamarse “incontrolable porque la entropía es demasiado grande”. Pero la inferencia de la IA hizo posible identificar las secuencias óptimas, y la eficiencia del descubrimiento de fármacos mejoró drásticamente.
La caja de Pandora y el dilema del ingeniero
Lamentablemente, también esta tecnología se ha desviado rápidamente hacia el uso militar. Se dice que la tecnología de IA que identifica objetivos a partir de enormes volúmenes de datos está incorporada en las operaciones de asesinato y en las armas con drones de hoy. La humanidad ha abierto de nuevo una nueva caja de Pandora. La IA realiza medicina si deseamos descubrir fármacos, y matanza eficiente si deseamos destrucción. Es, en verdad, una poderosa “espada de doble filo”.
Además, la IA consume enormes cantidades de electricidad. Por eso se acelera también el movimiento de construir centros de datos cerca de las centrales nucleares como fuente de energía. Mientras el cambio climático se agrava, ¿hemos producido —tras el átomo— una herramienta de autodestrucción que apresura la extinción de la humanidad? ¿O hemos obtenido un salvador que transformará la sociedad desde sus cimientos?
En estas circunstancias, también la ética de los ingenieros vacila. El modo en que ciertos miembros que se separaron de OpenAI por el uso militar de la IA fundaron Anthropic, y las diferencias de postura entre las distintas empresas, evocan la angustia de los científicos que participaron en el Proyecto Manhattan. Si Oppenheimer viviera hoy, ¿qué pensaría ante esta IA que podría convertirse en “la Muerte, destructora de mundos”?
El destino de nuestros deseos
Detener el uso de la IA ya no es realista. La caja de Pandora ya se ha abierto. Pero si la IA es una herramienta que da forma a “los deseos de la gente”, entonces ¿qué debemos desear? Sin duda queda también un camino en el que confiemos la realización de una sociedad sostenible y en paz a esta nueva inteligencia llamada IA. A la posibilidad de que la IA encuentre soluciones revolucionarias a problemas que antes se creían imposibles, quisiera apostar la última esperanza de la humanidad.
Masato Tahara
Facilitador digital para la transformación social / Autor. Investigó la autoorganización de los mohos en el posgrado de la Universidad de Waseda. En 2005, fundó “Fiz Yobi”, la primera academia de física en línea de Japón. A través de obras como “¡Revolución de Zoom en línea!” y “Sociedad participativa emergente”, propone la transición del pensamiento mecanicista a la visión de la vida. Director del Instituto de Investigación de Facilitación Digital. Explora el uso emergente de la IA y abre caminos hacia la transformación organizacional y la generación de nuevos conocimientos.
Ядерна енергія та ШІ, війна і мир
Масато Тахара (Masato Tahara)
Ядерна енергія як “світло” і “тінь”
Коли Айнштайн вивів рівняння E = mc2, відчинилися двері до можливості перетворення маси на енергію. Це реалізується тоді, коли невелика “втрата маси”, що виникає під час поділу (або синтезу) атомного ядра, перетворюється на енергію. Сама втрата маси нікчемна, але помножена на квадрат швидкості світла c (приблизно 3,0 × 108 м/с), вона породжує колосальну енергію. Слідом за тепловою та електричною енергією людство отримало “ядерну енергію” — на той час це сприймалося як великий поступ цивілізації.
Однак ядерна енергія вперше була використана як знаряддя війни. Ядерна зброя стала символом гегемонії, гонка озброєнь загострилася. США, маючи на меті продемонструвати перевагу над СРСР, скинули атомні бомби на Хіросіму та Нагасакі. Після війни як “мирне використання” ядра було просунуто виробництво атомної електроенергії, але воно є зворотним боком тієї самої медалі, що й атомна бомба. Плутоній, що утворюється на АЕС, продовжує випромінювати радіацію, тому потребує практично вічного охолодження та контролю. Водночас володіння плутонієм означає потенційну ядерну озброєність, і енергетична політика та військова стратегія завжди межують між собою.
“Вільна енергія”, керована ШІ
Зараз, з появою ШІ, людство знову увійшло в новий етап використання “енергії”.
Як концепцію, що пов’язує ШІ та енергію, можна навести термодинамічну формулу вільної енергії.
F = U − TS
(F: вільна енергія, U: внутрішня енергія, T: абсолютна температура, S: ентропія)
Навіть якщо повна енергія системи (U) велика, у стані великої ентропії (S) — показника хаотичності — важко витягти вільну енергію (F), яку можна ефективно використати. Однак висококласна обробка інформації за допомогою ШІ виявляє порядок у цьому “хаосі”, фактично контролюючи ентропію, і виводить на поверхню приховані можливості (енергію).
Наприклад, “ШІ-дизайн ліків” є тому символом. Структурні патерни білків, що складаються з 20 видів амінокислот, налічують астрономічне число, і пошук серед них послідовностей з лікарською дією методом проб і помилок був, так би мовити, у стані “ентропія занадто велика, контролю немає”. Однак завдяки висновкам ШІ стало можливим визначати оптимальні послідовності, і ефективність створення ліків стрімко зросла.
Скринька Пандори та конфлікт інженерів
На жаль, ця технологія також швидко переходить у військове використання. Кажуть, що технологія ШІ, яка визначає цілі з величезних обсягів даних, вбудовується в сучасні операції ліквідації та в безпілотну зброю. Людство знову відкрило нову скриньку Пандори. ШІ створює ліки, якщо побажати ліків, і ефективну різанину, якщо побажати руйнування. Це справді потужний “двосічний меч”.
Крім того, ШІ споживає величезну кількість електроенергії. Тому пришвидшується тенденція розміщення дата-центрів поблизу АЕС як джерела електроенергії. У час, коли кліматичні зміни загострюються, чи ми створили, після ядерної енергії, ще один інструмент саморуйнування, що прискорить загибель людства, чи здобули рятівника, який змінить суспільство в основі?
У цій ситуації коливаються й етичні переконання інженерів. Ситуація, коли члени, які відкололися від OpenAI через військове використання ШІ, заснували компанію Anthropic, та відмінності у позиціях різних компаній нагадують страждання вчених, що брали участь у Манхеттенському проєкті. Якби Оппенгеймер жив у сучасності, що б він подумав, стикнувшись з технологією ШІ, яка може стати “смертю, руйнівником світів”?
Куди йде бажання
Зупинити використання ШІ вже не реалістично. Скринька Пандори вже відкрита. Однак, якщо ШІ є інструментом, що втілює “бажання людей” у форму, то що ми маємо побажати? Має залишатися шлях, на якому ми довірятимемо реалізацію сталого та мирного суспільства новому інтелекту — ШІ. Хочеться покласти останню надію людства на можливість того, що ШІ знайде новаторські рішення для проблем, які раніше вважалися нерозв’язними.
Масато Тахара (Masato Tahara)
Фасилітатор цифрової трансформації суспільства / письменник. Досліджував самоорганізацію слизовиків у аспірантурі Університету Васеда. У 2005 році заснував “Физ Йобі” — першу в Японії онлайн-школу підготовки з фізики. У роботах “Zoom: онлайн-революція!” та “Суспільство, що виникає” пропагує перехід від механістичного мислення до розуміння живих систем. Директор Інституту дослідження цифрової фасилітації. Досліджує креативне застосування ШІ та прокладає нові шляхи організаційної трансформації та генерування знань.