AGI: 일반 인공지능의 진정한 힘과 이를 안전하게 개발하는 방법

최근 Apple이 인공지능에 최적화되어 있다고 약속한 iPhone 16이 출시되면서 AI가 공식적으로 가장 먼저 떠오르는 것이 분명해졌습니다.

With the recent release of the iPhone 16, which Apple has promised is optimized for artificial intelligence, it’s clear that AI is officially front of mind, once again, for the average consumer. Yet the technology still remains rather limited compared with the vast abilities the most forward-thinking AI technologists anticipate will be achievable in the near future.

Apple이 인공 지능에 최적화되어 있다고 약속한 iPhone 16의 최근 출시로 인해 AI가 공식적으로 다시 한번 일반 소비자에게 가장 먼저 떠오르는 것이 분명해졌습니다. 그러나 가장 미래 지향적인 AI 기술자들이 가까운 미래에 달성할 수 있을 것으로 예상하는 엄청난 능력에 비해 이 기술은 여전히 ​​다소 제한적입니다.

As much excitement as there still is around the technology, many still fear the potentially negative consequences of integrating it so deeply into society. One common concern is that a sufficiently advanced AI could determine humanity to be a threat and turn against us all, a scenario imagined in many science fiction stories. However, according to a leading AI researcher, most people’s concerns can be alleviated by decentralizing and democratizing AI’s development.

기술에 대한 관심이 여전히 많은 만큼, 많은 사람들은 기술을 사회에 깊이 통합할 때 발생할 수 있는 부정적인 결과를 여전히 두려워합니다. 한 가지 일반적인 우려는 충분히 발전된 AI가 인류를 위협으로 판단하고 우리 모두에게 등을 돌릴 수 있다는 것입니다. 이는 많은 공상 과학 소설에서 상상되는 시나리오입니다. 그러나 선도적인 AI 연구자에 따르면 대부분의 사람들의 우려는 AI 개발을 분산화하고 민주화함으로써 완화될 수 있습니다.

On Episode 46 of The Agenda podcast, hosts Jonathan DeYoung and Ray Salmond separate fact from fiction by speaking with Ben Goertzel, the computer scientist and researcher who first popularized the term “artificial general intelligence,” or AGI. Goertzel currently serves as the CEO of SingularityNET and the ASI Alliance, where he leads the projects’ efforts to develop the world’s first AGI.

The Agenda 팟캐스트의 에피소드 46에서 진행자 Jonathan DeYoung과 Ray Salmond는 "인공 일반 지능"(AGI)이라는 용어를 처음으로 대중화한 컴퓨터 과학자이자 연구원인 Ben Goertzel과 이야기를 나누면서 사실과 허구를 구분합니다. Goertzel은 현재 SingularityNET 및 ASI Alliance의 CEO로 재직하며 세계 최초의 AGI를 개발하기 위한 프로젝트 노력을 이끌고 있습니다.

The true power of artificial general intelligence

인공일반지능의 진정한 힘

Goertzel defines an AGI as “an AI that can do the whole scope of everything that people can do, including the human ability to leap beyond what we’ve been taught.” This differs from the more narrow AIs that have been around for a while, which “do some highly specific things but don’t try to have the whole broad scope of a human mind.”

Goertzel은 AGI를 "우리가 배운 것 이상으로 도약할 수 있는 인간의 능력을 포함하여 인간이 할 수 있는 모든 범위를 수행할 수 있는 AI"라고 정의합니다. 이것은 "매우 특정한 일을 수행하지만 인간 마음의 전체 넓은 범위를 가지려고 노력하지 않는" 한동안 존재했던 더 좁은 AI와는 다릅니다.

While large language models like ChatGPT are capable of performing many general tasks, they don’t qualify as artificial general intelligence because they don’t venture far beyond their training, said Goertzel.

ChatGPT와 같은 대규모 언어 모델은 많은 일반적인 작업을 수행할 수 있지만 훈련 이상의 기능을 수행하지 않기 때문에 인공 일반 지능으로 적합하지 않다고 Goertzel은 말했습니다.

There are many potentially world-changing benefits that would come from developing an AGI. “We can abolish material scarcity at the level of everyday human life, just like we can drum up all the steaks that our dog wants to eat,” Goertzel said. “We don’t have to work for a living anymore. Things like death and disease should be curable by nanotechnology, which an advanced AI presumably could create.”

AGI를 개발하면 세상을 변화시킬 수 있는 잠재적인 이점이 많이 있습니다. Goertzel은 “우리 개가 먹고 싶어하는 스테이크를 모두 북돋울 수 있는 것처럼 일상적인 인간 생활 수준에서 물질적 결핍을 없앨 수 있습니다.”라고 말했습니다. “우리는 더 이상 생계를 위해 일할 필요가 없습니다. 죽음이나 질병 같은 것은 나노기술로 치료할 수 있어야 하며, 이는 아마도 첨단 AI가 만들어낼 수 있을 것입니다.”

Related: OriginTrail on AI, real-world adoption and the value of knowledge: The Agenda podcast

관련 항목: AI의 OriginTrail, 실제 채택 및 지식의 가치: The Agenda 팟캐스트

How to safely develop artificial general intelligence

인공일반지능을 안전하게 개발하는 방법

However, a powerful AGI is not without its risks. Goertzel told The Agenda that while a Terminator-style world-ending apocalypse is highly unlikely — though it can’t entirely be ruled out — there are other risks inherent in its development. “The idea that human beings could take moderately advanced AIs and use them to do nasty things to other human beings out of their own self-interest, this is a very, very, very clear and palpable risk,” he shared.

그러나 강력한 AGI에도 위험이 없는 것은 아닙니다. Goertzel은 The Agenda에 터미네이터 스타일의 세계 종말이 일어날 가능성은 거의 없지만(완전히 배제할 수는 없지만) 개발 과정에 내재된 다른 위험이 있다고 말했습니다. “인간이 적당히 발전된 AI를 사용하여 자신의 이익을 위해 다른 인간에게 불쾌한 일을 할 수 있다는 생각은 매우 명확하고 눈에 띄는 위험입니다.”라고 그는 공유했습니다.

The way to avoid these concerns and ensure that AGI is used for the benefit of all humanity is to decentralize and democratize it, according to Goertzel. That way, it cannot be controlled “by a small number of powerful parties with their own narrow interests at heart.”

Goertzel에 따르면 이러한 우려를 피하고 AGI가 모든 인류의 이익을 위해 사용되도록 보장하는 방법은 AGI를 분산화하고 민주화하는 것입니다. 그렇게 되면 “자신들의 편협한 이해관계를 염두에 두고 있는 소수의 강력한 정당들”에 의해 통제될 수 없습니다.

“What you need is some way to decentralize all these processes that the AI is running on, and then you need a way to decentralize the data ingestion into all these processors,” he argued. “This is what SingularityNET was designed to provide. […] Singularity lets you take a collection of AI agents and run them on machines which are owned and controlled by no central party.”

“필요한 것은 AI가 실행되는 모든 프로세스를 분산화하는 방법이며, 그런 다음 데이터 수집을 모든 프로세서로 분산화하는 방법이 필요합니다.”라고 그는 주장했습니다. “이것이 SingularityNET이 제공하도록 설계된 것입니다. [...] Singularity를 ​​사용하면 AI 에이전트 모음을 가져와 중앙 기관이 소유하고 제어하지 않는 기계에서 실행할 수 있습니다.”

To hear more from Goertzel’s conversation with The Agenda — including his thoughts on how AGI could extend the human lifespan, what Hollywood gets right and wrong about AI, and whether AGI will unlock the secrets of the universe — listen to the full episode on Cointelegraph’s Podcasts page, Apple Podcasts or Spotify. And don’t forget to check out Cointelegraph’s full lineup of other shows!

AGI가 어떻게 인간 수명을 연장할 수 있는지, 헐리우드가 AI에 관해 옳고 그름을 판단하는 것, AGI가 우주의 비밀을 밝힐 것인지 여부에 대한 그의 생각을 포함하여 Goertzel과 The Agenda와의 대화에서 더 많은 내용을 들으려면 Cointelegraph의 팟캐스트에서 전체 에피소드를 들어보세요. 페이지, Apple Podcast 또는 Spotify. 그리고 Cointelegraph의 다른 쇼 전체 라인업도 확인하는 것을 잊지 마세요!

Magazine: Advanced AI system is already ‘self-aware’ — ASI Alliance founder

매거진: 고급 AI 시스템은 이미 '자기 인식'을 하고 있습니다 — ASI Alliance 창립자

This article is for general information purposes and is not intended to be and should not be taken as legal or investment advice. The views, thoughts, and opinions expressed here are the author’s alone and do not necessarily reflect or represent the views and opinions of Cointelegraph.

이 기사는 일반적인 정보 제공 목적으로 작성되었으며 법적 또는 투자 조언으로 간주되어서는 안 됩니다. 여기에 표현된 견해, 생각, 의견은 저자만의 것이며 코인텔레그래프의 견해와 의견을 반드시 반영하거나 대표하는 것은 아닙니다.