OpenAI의 대화형 AI 봇 ChatGPT는 작년에 출시되었으며 스토리 작성, 이메일 작성 및 생성 기능 덕분에 기록적인 속도로 큰 인기를 얻었습니다. 암호 (때로는 불행하게도 유해하기도 합니다). 그러나 새로운 보고서에 따르면 OpenAI를 매일 실행하는 데 막대한 비용이 든다고 합니다.
SemiAnalysis의 연구에 따르면 OpenAI는 유지 관리를 위해 하루에 거의 $695를 지출합니다. 채팅 봇 작업 순서대로. 이 회사의 추정에 따르면 이 시스템에는 약 3,6만 개 이상의 HGX A100 서버와 거의 29개의 GPU가 포함되어 있으며 요청당 비용은 약 0,36센트입니다.
SemiAnalysis의 수석 분석가인 Dylan Patel은 GPT-4 버전이 이전 버전인 GPT-3보다 실행 비용이 더 많이 들기 때문에 현재 소프트웨어 실행 비용이 훨씬 더 높을 수 있다고 Business Insider에 말했습니다. 그는 과거 GPT-3 모델을 기반으로 추정했지만 OpenAI는 이미 버전을 출시했습니다. GPT-4 유료 가입자의 경우. 회사는 새 모델이 더 정확한 정보를 제공하고 이전 버전에서 문제였던 오답을 더 잘 보호한다고 주장합니다.
엄청난 비용의 주된 이유 중 하나는 시스템을 작동하는 데 필요한 에너지 집약적인 특수 칩입니다. 이 문제를 해결하기 위해, Microsoft GPU를 대체할 수 있는 자체 인공지능 칩인 Athena를 개발 중입니다. NVIDIA ChatGPT의 운영 비용을 줄입니다.
한편 ChatGPT는 이미 처음부터 기능 코드를 생성할 수 있으며 결국 프로그래머를 대체할 수 있다는 우려까지 제기합니다. 그러나 과학자 그룹의 최근 연구에 따르면 챗봇 생성 코드는 그다지 안전하지 않을 수 있습니다. 연구에 따르면 ChatGPT는 "대부분의 상황에 적용할 수 있는 최소 보안 기준보다 현저히 낮은" 코드를 생성한다고 합니다. 가장 흥미롭게도 챗봇은 생성하는 코드가 얼마나 안전한지 물었을 때 이를 인정합니다.
인코딩 품질을 확인하려면 ChatGPT, 연구원들은 그에게 C, C++, Python 및 Java의 네 가지 프로그래밍 언어를 사용하여 21개의 프로그램과 스크립트를 생성하도록 요청했습니다. 첫 번째 시도에서 챗봇은 5개의 보안 프로그램만 작성할 수 있었지만 연구원의 지시를 받은 후 7개의 더 안전한 코드를 만들었습니다. 연구 결과에 따르면 ChatGPT를 사용하여 애플리케이션을 작성하는 것은 현재 비효율적이거나 심지어 위험할 수 있지만 향후에는 변경될 수 있습니다.
또한 읽기:
무료 뉴런의 와우 숫자!
살면서 이렇게 비싸다는 생각은 안해봤을텐데...
저도 놀랐습니다. 나도 조금 불편해 지금 Open ChatGPT - 여전히 내 요청으로 부담하겠습니다)