이 문서에서는 문법 API를 사용하여 llama.cpp 모델로 텍스트 생성을 안내하는 방법에 대해 설명합니다. 이 API는 데이터 구조로 표현되는 문맥 없는 문법을 허용합니다. 문법은 문자 범위를 포함한 비단어 및 단어 요소에 대한 규칙을 정의합니다. 예제에서는 문법을 사용하여 체스 수, 산술 표현식, JSON 및 일본어 텍스트를 생성하는 방법을 보여줍니다. 문법을 사용하면 생성된 텍스트가 특정 패턴을 따르는 반면, 문법을 사용하지 않으면 텍스트가 더 자유 형식입니다. 문법 API를 사용하면 생성된 텍스트의 구조와 형식을 더 세밀하게 제어할 수 있습니다.
'Hacker News' 카테고리의 다른 글
| 칼텍 노벨상 수상자가 100번째 생일을 축하하고 다시 일터로 돌아갑니다. (0) | 2023.07.23 |
|---|---|
| 사용자가 직접 비밀번호를 설정할 수 있도록 하는 이유는 무엇인가요? (0) | 2023.07.23 |
| 중년의 혈중 단백질 불균형과 관련된 치매 위험 (0) | 2023.07.22 |
| "본인은 IBM에..., JSLint를 악의적으로 사용할 수 있는 권한을 부여합니다." (0) | 2023.07.21 |
| 더 이상 비밀은 없다: 1992년 영화 '스니커즈'에서 보았던 암호 해독 효과를 재현하세요. (0) | 2023.07.21 |