API 7

Gorilla: API와 연결된 대규모 언어 모델

Gorilla는 정확한 API 호출을 생성하도록 미세 조정된 대규모 언어 모델입니다. 이 모델은 정확한 API 호출과 인수를 작성하는 데 있어 GPT-4보다 뛰어난 성능을 발휘합니다. 또한 문서 검색기를 사용하여 API 문서의 변경 사항에 적응하여 업데이트된 API 버전을 처리할 수 있습니다. 저자들은 Gorilla의 성능을 평가하기 위해 HuggingFace, TorchHub 및 TensorHub API의 데이터 세트인 APIBench를 만들었습니다. 리트리버 시스템과 Gorilla의 조합은 대규모 언어 모델에서 보다 안정적인 API 호출을 생성할 수 있는 가능성을 보여줍니다. 저자들은 Gorilla와 코드를 GitHub에서 공개적으로 사용할 수 있도록 했습니다.원문: https://shishirpat..

Hacker News 2023.06.15

아폴로는 6월 30일에 종료됩니다.

인기 있는 타사 Reddit 앱인 아폴로가 Reddit의 최근 API 변경으로 인해 6월 30일에 종료됩니다. Reddit은 지난 4월 유료 API 모델로 전환할 것이라고 발표했지만 두 달 동안 가격 세부 정보를 제공하지 않았습니다. 마침내 Reddit이 API 호출 1,000건당 0.24달러의 가격을 제시했을 때, 아폴로는 현재 사용량 수준에서 계속 운영하려면 연간 약 2,000만 달러의 비용이 들 것으로 계산했습니다. Apollo는 API 사용량을 낮추고 전환할 시간을 더 달라고 요청했지만 Reddit은 30일의 통지 기간만 제공했습니다. 아폴로의 협상 시도와 타협안 제안에도 불구하고 Reddit은 가격이나 일정에 대해 전혀 움직이지 않았습니다. 따라서 아폴로는 지속 불가능한 비용 발생을 피하기 위해..

Hacker News 2023.06.09

홈 오토메이션에 ChatGPT 사용

저자는 하드웨어를 제어하고 홈 오토메이션을 시연하기 위해 ChatGPT를 라즈베리 파이에 연결했습니다. 그는 ChatGPT가 호출할 수 있는 간단한 API를 만들어 파이에 연결된 조명을 제어했습니다. 그런 다음 간단한 명령에 따라 조명을 켜고 끌 수 있었습니다. 저자는 ChatGPT와 같은 대규모 언어 모델은 자연어를 이해할 수 있기 때문에 서로 다른 시스템을 연결하는 데 유용할 수 있다고 말합니다. 그는 또한 ChatGPT가 API용 코드를 생성하도록 하여 지루한 작업을 자동화할 수 있는 잠재력을 보여주었습니다. 하지만 저자는 ChatGPT의 능력을 맹목적으로 신뢰해서는 안 되며 검증해야 한다고 강조합니다. 이 데모는 홈 자동화를 위한 대규모 언어 모델의 잠재력과 한계를 보여줍니다.원문: https:/..

Hacker News 2023.05.21

Chrome, 웹 GPU 출시

동일한 그래픽에 대해 자바스크립트 워크로드를 크게 줄이고 머신러닝 모델 추론 성능을 3배 이상 향상시키는 등 상당한 이점을 제공하는 새로운 웹 그래픽 API인 WebGPU가 현재 베타 채널에 있는 Chrome 113에서 기본으로 제공됩니다. 이번 WebGPU 초기 릴리스는 ChromeOS, macOS, Windows에서 사용할 수 있습니다. 다른 플랫폼에 대한 지원은 올해 말에 제공될 예정입니다. WebGPU는 웹을 위한 새로운 API로, 최신 하드웨어 기능을 노출하고 Direct3D 12, Metal, Vulkan과 유사하게 GPU에서 렌더링 및 연산 작업을 수행할 수 있습니다. WebGL API 제품군과 달리 WebGPU는 고급 GPU 기능에 대한 액세스를 제공하며 GPU에서 일반적인 연산을 위한 최..

Hacker News 2023.04.06

Show HN: 고객을 위해 작동하는 AI 에이전트로 구동되는 오픈 소스 IDE를 구축하고 있습니다.

e2b는 도구를 사용하여 코딩 작업을 수행할 수 있는 AI 에이전트로 구동되는 오픈 소스 IDE입니다. 개발자는 간단한 문서나 기술 사양을 일반 영어로 작성하고 AI 에이전트가 실제 작업을 수행하도록 할 수 있습니다. AI 에이전트는 Firecracker로 구동되는 안전한 샌드박스 클라우드 환경에서 작동하며 파일에 쓰기, 코드 실행, 명령 실행, 종속 요소 설치, 배포 등의 도구에 액세스할 수 있습니다. 미래를 위한 AI 기반 IDE는 오픈 소스로 제공되어 누구나 모델을 가져오고 프롬프트를 사용자 지정하며 상담원을 위한 맞춤형 도구를 개발할 수 있어야 합니다. 이 앱은 현재 진행 중인 작업이며, 개발자와 AI 상담원의 협력은 완전히 새로운 패러다임을 만들어냅니다. 현재 아이디어는 기본 클라우드 버전을 무..

Hacker News 2023.04.05

해적 날씨

해적 기상 API는 JSON API를 통해 GFS 및 HRRR 예보를 평가하기 위한 도구입니다. 이 도구는 다크 스카이 API의 드롭인 대체/대안으로 설계되었습니다. 이 API는 원시 예보 데이터에 세 가지 NOAA 모델을 사용합니다: HRRR, GFS, GEFS입니다. HRRR은 미국 대륙 전체와 캐나다 인구의 대부분에 대한 예보를 제공합니다. GFS 모델은 120시간 단위의 시간별 예보와 240시간 단위의 3시간 예보를 제공합니다. GEFS는 30인조 앙상블 버전의 GFS입니다. API는 강수 유형, 양, 확률을 얻기 위해 GEFS를 사용합니다. API는 커뮤니티 중심이며 사람들이 문제를 제기하여 예보를 개선하는 데 도움을 줍니다. API는 전 세계 어디에서나 분 단위 예보를 제공할 수 있지만, HR..

Hacker News 2023.03.29

툴포머: 스스로 도구 사용법을 익힐 수 있는 언어 모델

툴포머는 간단한 API를 통해 외부 도구를 사용하도록 스스로 학습할 수 있는 언어 모델입니다. 어떤 API를 호출할지, 언제 호출할지, 어떤 인수를 전달할지, 결과를 향후 토큰 예측에 가장 잘 통합하는 방법을 결정하도록 학습됩니다. 이 작업은 자체 감독 방식으로 수행되므로 각 API에 대해 몇 번의 데모만 필요합니다. 툴포머는 계산기, Q&A 시스템, 두 가지 검색 엔진, 번역 시스템, 캘린더 등 다양한 도구로 테스트를 거쳤습니다. 핵심 언어 모델링 능력은 그대로 유지하면서 훨씬 더 큰 모델과 경쟁할 수 있는 다양한 다운스트림 작업에서 향상된 제로 샷 성능을 달성했습니다. 이는 자연어 처리 분야에서 언어 모델이 외부 도구를 사용하도록 스스로 학습할 수 있음을 보여주는 흥미로운 발전입니다. 원문: http..

Hacker News 2023.02.12