NVIDIA PC에서 로컬로 실행되는 무료 챗봇 데모를 방금 출시했습니다. 이는 챗봇이 귀하의 파일과 문서에 접근할 수 있게 해주기 때문에 매우 편리합니다. 당신은 제공할 수 있습니다 RTX와 채팅 특정 개인 데이터를 수집하고 해당 정보를 바탕으로 이력서를 작성하도록 요청합니다. 다른 챗봇처럼 질문을 할 수도 있으며, 답변을 찾기 위해 데이터를 분석합니다.
회사는 이를 통해 사용자가 "로컬 PC 파일을 데이터 세트로 Mistral 또는 Llama 2와 같은 대규모 오픈 소스 언어 모델에 빠르고 쉽게 연결할 수 있다"고 밝혔습니다. NVIDIA 라스베거스에 있는 동안 파트너가 추천하는 레스토랑에 대해 챗봇에게 묻는 사용자의 예를 제공합니다. 소프트웨어는 답변을 찾기 위해 로컬 파일을 검색합니다. .txt, .pdf, .doc, .docx 및 .xml을 포함한 다양한 파일 형식을 지원합니다. 회사는 관련 파일을 "초 안에" 데이터 세트에 업로드한다고 말합니다.
RTX와의 채팅에는 비디오와 재생 목록도 통합됩니다. YouTube. 비디오의 URL을 데이터 세트에 추가하면 상황별 쿼리를 위해 비디오에 포함된 지식이 통합됩니다. NVIDIA "인플루언서가 좋아하는 동영상의 콘텐츠를 기반으로" 여행 추천을 요청하거나 교육 리소스에서 파생된 튜토리얼 및 요약을 검색할 때 유용할 것이라고 말합니다.
이는 개인 데이터의 맥락에서 작동하는 진정한 디지털 비서와 같은 것을 향한 큰 진전처럼 들립니다. 대부분의 챗봇은 데이터를 클라우드로 전송하지만 Chat with RTX를 사용하면 "사용자는 제3자와 공유하거나 인터넷에 연결하지 않고도 로컬 컴퓨터에서 민감한 데이터를 처리할 수 있습니다." 따라서 더 안전하고 상황 지향적인 의사소통이 가능합니다.
몇 가지 제한 사항이 있습니다. 데모 제품이라 버그가 많을 것으로 예상됩니다 NVIDIA 사용자가 버그 보고서 등을 작성하기 시작하자마자 수정을 시작해야 합니다. 여기에는 엄격한 하드웨어 제한도 있습니다. RTX를 사용한 채팅은 GPU가 탑재된 Windows 11 컴퓨터에서만 작동합니다. NVIDIA GeForce RTX 30 시리즈 이상 및 최소 8GB VRAM.
최근에 NVIDIA 회사가 차세대 AI 슈퍼컴퓨터 칩을 출시하면서 AI 역량을 실제로 과시하고 있습니다. 주로 AI 및 데이터 센터 부문으로 인해 이익이 늘고 있습니다.
또한 읽기: