Near Protocol, 세계 최대 오픈 소스 AI 모델 구축을 위한 야심찬 계획 공개

1조 4천억 개의 매개변수 모델은 Meta의 현재 오픈 소스 Llama 모델보다 3.5배 더 큽니다.

Layer-1 blockchain Near Protocol (NEAR) has announced plans to build the world’s largest open-source artificial intelligence (AI) model during the opening day of its Redacted conference in Bangkok, Thailand.

레이어-1 블록체인 Near Protocol(NEAR)은 태국 방콕에서 열린 Redacted 컨퍼런스 개막일에 세계 최대 오픈 소스 인공 지능(AI) 모델을 구축할 계획을 발표했습니다.

The 1.4 trillion parameter model will be 3.5 times larger than Meta’s (META) current open-source Llama model. It will be created through competitive crowdsourced research and development (R&D) from thousands of contributors on the new Near AI Research hub.

1조 4천억 개의 매개변수 모델은 메타(META)의 현재 오픈소스 Llama 모델보다 3.5배 더 커질 것입니다. 이는 새로운 Near AI Research 허브의 수천 명의 기여자들이 참여하는 경쟁력 있는 크라우드소싱 연구 및 개발(R&D)을 통해 만들어질 것입니다.

Participants will be able to join the training of a small 500 million parameter model starting on Nov. 10. Near’s AI models will grow in size and sophistication across seven models. Only the best contributors will make the leap to working on progressively more complex and larger models.

참가자들은 11월 10일부터 시작되는 소규모 5억 매개변수 모델의 훈련에 참여할 수 있습니다. Near의 AI 모델은 7개 모델에 걸쳐 크기와 정교함이 증가할 것입니다. 최고의 기여자만이 점점 더 복잡해지고 더 큰 모델을 개발하는 데 뛰어들 수 있습니다.

The models will be monetized, and privacy will be preserved via the use of encrypted Trusted Execution Environments (TEE) to reward contributors and encourage constant updating as the technology progresses.

모델은 수익을 창출할 것이며 암호화된 TEE(신뢰할 수 있는 실행 환경)를 사용하여 개인정보를 보호하여 기여자에게 보상하고 기술이 발전함에 따라 지속적인 업데이트를 장려합니다.

The project will be funded with token sales, Near co-founder Illia Polosukhin told Cointelegraph at the Redacted conference in Bangkok.

Near의 공동 창립자인 Illia Polosukhin은 방콕에서 열린 Redacted 컨퍼런스에서 Cointelegraph에 이 프로젝트의 자금은 토큰 판매로 자금을 조달할 것이라고 말했습니다.

“It costs about $160 million, so it’s a lot, obviously, but actually, in crypto, it is raiseable money,” he said. Near is one of the few crypto projects with the ability to realize such an ambitious undertaking: Polosukhin was one of the authors of the groundbreaking transformer research paper that led to ChatGPT, and co-founder Alex Skidanov worked at OpenAI in the lead-up to the era-defining model’s release in late 2022.

“약 1억 6천만 달러의 비용이 들기 때문에 분명히 많은 금액이지만 실제로 암호화폐에서는 조달 가능한 돈입니다.”라고 그는 말했습니다. Near는 이러한 야심찬 사업을 실현할 수 있는 능력을 갖춘 몇 안 되는 암호화폐 프로젝트 중 하나입니다. Polosukhin은 ChatGPT로 이어진 획기적인 변압기 연구 논문의 저자 중 한 명이었고 공동 창립자 Alex Skidanov는 OpenAI에서 일했습니다. 시대를 정의하는 모델은 2022년 후반에 출시됩니다.

Skidanov, who now heads up Near AI, conceded that training a model of this size and complexity would be a massive undertaking with a big hurdle to overcome.

현재 Near AI를 이끌고 있는 Skidanov는 이러한 크기와 복잡성의 모델을 훈련하는 것은 극복해야 할 큰 장애물이 있는 대규모 작업이 될 것임을 인정했습니다.

“To train a model of this size, you’d need tens of thousands of GPUs in one place, which wouldn’t be ideal. But to use a decentralized network of compute you’d need a new technology that doesn’t exist today because all the distributed training techniques we have require very fast interconnect,” he said.

“이 정도 크기의 모델을 훈련하려면 한 곳에 수만 개의 GPU가 필요하지만 이는 이상적이지 않습니다. 그러나 분산형 컴퓨팅 네트워크를 사용하려면 현재 존재하지 않는 새로운 기술이 필요합니다. 우리가 보유한 모든 분산 교육 기술에는 매우 빠른 상호 연결이 필요하기 때문입니다.”라고 그는 말했습니다.

However, Skidanov added that emerging research from Deep Mind suggests it is possible.

그러나 Skidanov는 Deep Mind의 최신 연구 결과가 가능하다고 덧붙였습니다.

“There is some emerging research from Deep Mind that shows you can actually do distributed training over slow interconnect with a technique called pipeline parallelism,” he said.

“Deep Mind에서 파이프라인 병렬화라는 기술을 사용하여 느린 상호 연결을 통해 실제로 분산 교육을 수행할 수 있다는 것을 보여주는 몇 가지 새로운 연구가 있습니다.”라고 그는 말했습니다.

Polosukhin said he hasn’t spoken with existing projects like the Artificial Superintelligence Alliance but would be happy to see if there are synergies.

Polosukhin은 Artificial Superintelligence Alliance와 같은 기존 프로젝트와 이야기를 나눈 적이 없지만 시너지 효과가 있는지 알아보고 싶다고 말했습니다.

“Whatever happens, decentralized AI technology must win for all our sake. We had Edward Snowden as a guest speaker at the conference, and he painted a scary portrait of centralized AI turning the world into a giant surveillance state,” he said.

“무슨 일이 있어도 분산형 AI 기술이 우리 모두를 위해 승리해야 합니다. 우리는 컨퍼런스에 초청 연사로 에드워드 스노든(Edward Snowden)을 초대했는데, 그는 세계를 거대한 감시 국가로 바꾸는 중앙 집중식 AI의 무서운 초상화를 그렸습니다.”라고 그는 말했습니다.

“This is probably the most important technology right now and probably in the future. And the reality is, if AI is controlled by one company, we effectively are going to do whatever that company says,” Snowden explained.

“이것은 아마도 현재 그리고 아마도 미래에 가장 중요한 기술일 것입니다. 그리고 현실은 AI가 한 회사에 의해 통제된다면 우리는 그 회사가 말하는 것은 무엇이든 효과적으로 수행하게 될 것입니다.”라고 Snowden은 설명했습니다.