[gpt] gpt가 창의적인가? temperature 과 top_k , top_p
gpt 파라미터 중 temperature , top_p, top_k를 조절하는 것이 어떻게 작동하는 것인지 찾아보며, 이해가 잘 되었던 블로그, 웹 문서를 정리해보았다. Temperature 값이 높을 때와 낮을때?temperature값을 1보다 낮추어 (예 0.2), 가장 확률이 높은 토큰이 선택될 확률이 더 높아져서 (일관된, 이미 응답했던, 보다 자연스럽고 정확하다고 느낄) 응답이 출력된다. temperature값이 1을 넘어서면, 가장 나올 확률이 높았던 1등 토큰이든, 2등 토큰이든 둘의 확률 차이가 점점 줄어든다. 즉, 응답한 적이 없는, 일관되지 않은, 정확하다고 느끼지 않을 토큰이 출력되게 된다.공식문서에서 언급한 temperature값과 참고 이해 자료 0~2 사이에서 조절하며, 0...
2024. 4. 28.
