Groq AI 모델이 입소문을 타고 ChatGPT와 경쟁하고 Elon Musk의 Grok에 도전합니다.

Groq AI 모델은 ChatGPT의 지배력에 도전하고 비슷한 이름의 Grok인 Elon Musk의 자체 모델과 비교되면서 소셜 미디어에서 광범위한 관심을 받고 있습니다.

 

최근 등장한 인공지능(AI) 모델인 그로크(Groq)는 GPU 없이도 반응 속도를 낼 수 있는 신기술로 소셜미디어를 휩쓸고 있다.

Groq는 공개 벤치마크 테스트가 소셜 미디어 플랫폼 X에서 입소문을 타면서 인기 있는 AI 챗봇인 ChatGPT를 능가하는 계산 및 응답 속도를 공개한 후 하룻밤 사이에 센세이션을 일으켰습니다.

초고속 AI 답변 엔진인 Groq을 사용한 최초의 공개 데모입니다.

1초도 안 되는 시간에 수백 단어로 사실과 인용된 답변을 작성합니다.

생성 시간이 아닌 검색 시간의 3/4 이상이 소요됩니다!

LLM은 몇 초 안에 실행됩니다. https://t.co/dVUPyh3XGV https://t.co/mNV78XkoVB pic.twitter.com/QaDXixgSzp

— 매트 슈머(@mattshumer_) 2024년 2월 19일
이는 Groq 팀이 초당 약 500개의 토큰을 생성할 수 있는 LLM(대형 언어 모델)용 맞춤형 ASIC(Application-Specific Integrated Circuit) 칩을 개발했기 때문입니다. 이에 비해 공개적으로 사용 가능한 모델 버전인 ChatGPT-3.5는 초당 약 40개의 토큰을 생성할 수 있습니다.

이 모델의 개발자인 Groq Inc는 일반적으로 AI 모델을 실행하는 데 사용되는 희소하고 값비싼 그래픽 처리 장치(GPU) 대신 모델을 실행하는 데 사용되는 최초의 언어 처리 장치(LPU)를 만들었다고 주장합니다.

와, 오늘 밤에 트윗이 너무 많네요! 자주 묻는 질문(FAQ) 답변.
• 우리는 칩과 시스템을 설계했기 때문에 더 빠릅니다.
• LPU, 언어 처리 장치(GPU가 아님)입니다.
• 오픈소스 모델을 사용하지만 교육하지는 않습니다.
• 매주 액세스 용량을 늘리고 있습니다. 계속 지켜봐 주시기 바랍니다. pic.twitter.com/nFlFXETKUP

— Groq Inc(@GroqInc) 2024년 2월 19일
그러나 Groq 뒤에 있는 회사는 새로운 것이 아닙니다. 2016년에 Groq라는 이름을 상표로 등록하면서 설립되었습니다. 지난 11월, Grok이라고도 불리는 Elon Musk의 자체 AI 모델(철자는 "k"임)이 인기를 끌었을 때 원래 Groq 개발자들은 Musk에게 이름 선택을 요청하는 블로그 게시물을 게시했습니다.

“당신이 우리 이름을 채택하려는 이유를 알 수 있습니다. 당신은 빠른 것(로켓, 하이퍼루프, 한 글자로 된 회사 이름)을 좋아하며 당사 제품인 Groq LPU 추론 엔진은 대규모 언어 모델(LLM) 및 기타 생성 AI 애플리케이션을 실행하는 가장 빠른 방법입니다. 하지만 다른 이름을 빨리 선택해 주시기 바랍니다.”

 

Groq이 소셜 미디어에서 입소문이 난 이후 Musk나 X의 Grok 페이지 모두 두 모델 이름의 유사성에 대해 아무런 언급도 하지 않았습니다.

관련: 마이크로소프트, 독일 AI 개발에 30억 유로 투자

그럼에도 불구하고 플랫폼의 많은 사용자는 LPU 모델과 다른 인기 있는 GPU 기반 모델을 비교하기 시작했습니다.

AI 개발 분야에서 일하는 한 사용자는 Groq를 낮은 대기 시간이 필요한 제품의 "게임 체인저"라고 불렀습니다. 이는 요청을 처리하고 응답을 얻는 데 걸리는 시간을 의미합니다.

Groq과 GPT-3.5를 나란히 놓고, 완전히 다른 사용자 경험, 짧은 대기 시간을 요구하는 제품을 위한 게임 체인저 pic.twitter.com/sADBrMKXqm

— 디나 예를란(@dina_yrl) 2024년 2월 19일
또 다른 사용자는 Groq의 LPU가 향후 AI 애플리케이션의 요구 사항을 충족할 때 GPU에 "대규모 개선"을 제공할 수 있으며, "고성능 하드웨어"에 대한 좋은 대안이 될 수도 있다고 게시했습니다. -Nvidia에서 생산하는 A100 및 H100 칩을 요구합니다.

이는 업계에서 주요 AI 개발자들이 엔비디아 모델에만 의존하지 않기 위해 자체 칩 개발을 모색하고 있는 시점에 나온 것입니다.

OpenAI는 제품 확장 문제를 극복하기 위해 자체 칩을 개발하기 위해 전 세계 정부와 투자자로부터 수조 달러의 자금을 조달하고 있는 것으로 알려졌습니다.