호출 3

Gorilla: API와 연결된 대규모 언어 모델

Gorilla는 정확한 API 호출을 생성하도록 미세 조정된 대규모 언어 모델입니다. 이 모델은 정확한 API 호출과 인수를 작성하는 데 있어 GPT-4보다 뛰어난 성능을 발휘합니다. 또한 문서 검색기를 사용하여 API 문서의 변경 사항에 적응하여 업데이트된 API 버전을 처리할 수 있습니다. 저자들은 Gorilla의 성능을 평가하기 위해 HuggingFace, TorchHub 및 TensorHub API의 데이터 세트인 APIBench를 만들었습니다. 리트리버 시스템과 Gorilla의 조합은 대규모 언어 모델에서 보다 안정적인 API 호출을 생성할 수 있는 가능성을 보여줍니다. 저자들은 Gorilla와 코드를 GitHub에서 공개적으로 사용할 수 있도록 했습니다.원문: https://shishirpat..

Hacker News 2023.06.15

GPT-4의 기본 JSON 출력

새로운 OpenAI API를 사용하면 GPT 모델이 단순한 텍스트 대신 구조화된 JSON 출력을 생성할 수 있으므로 보다 정확하고 유용한 응답을 제공할 수 있습니다. JSON 스키마를 지정하면 모델이 해당 스키마를 준수하는 JSON을 생성할 수 있습니다. 따라서 기존 프롬프트 방식에 비해 오류가 줄어들고 GPT의 작업이 간소화됩니다. 결과적으로 JSON 출력은 더 정확하고 더 적은 토큰을 사용하며 더 저렴하게 생성되는 경향이 있습니다. 이 API는 기술 전문가가 아닌 사용자도 자연어를 통해 지능형 백엔드 API를 구축할 수 있는 새로운 노코드 도구를 구현할 수 있는 잠재력을 가지고 있습니다. 제한적이긴 하지만, 지원되는 JSON 스키마 기능만으로도 스키마 언어를 튜링이 완성된 스키마 언어로 전환할 수 있..

Hacker News 2023.06.15

시인처럼 어셈블리를 쓸 수 없다면, 사냥꾼처럼 해체를 읽을 수 있습니다.

이 문서에서는 컴파일러가 소스 코드에서 생성한 기계어 코드인 디스어셈블리를 읽는 방법에 대해 설명합니다. 저자는 컴파일러가 코드를 최적화하는 방법을 이해하기 위해 디스어셈블리를 읽는 방법에 대한 세 가지 예제를 제공합니다. 첫 번째 예제는 컴파일러가 컴파일 타임에 계산을 수행하여 코드를 더 빠르게 만들 수 있는 방법을 보여줍니다. 두 번째 예제는 컴파일러가 함수를 인라인화하여 오버헤드를 줄이는 방법을 보여줍니다. 세 번째 예제는 컴파일러가 어떻게 루프를 언롤링하여 오버헤드를 줄일 수 있는지 보여줍니다. 저자는 디스어셈블리를 이해하면 프로그래머가 코드를 최적화하고 성능을 개선하는 데 도움이 될 수 있다고 강조합니다. 또한 저자는 디스어셈블리를 읽는 것이 보기보다 쉬우며 프로그래머에게 도움이 될 수 있다고 ..

Hacker News 2023.04.04