LiteLLM은 LLM 완성 및 임베딩 호출을 간소화하는 오픈 소스 라이브러리입니다. 다양한 LLM 모델을 호출하기 위한 편리하고 사용하기 쉬운 인터페이스를 제공합니다.
'litellm' 라이브러리를 import하고 LLM API 키 (예: OPENAI_API_KEY와 COHERE_API_KEY)에 필요한 환경 변수를 설정해야합니다. 환경 변수가 설정되면 Python 함수를 생성하고 LiteLLM을 사용하여 LLM 완성 호출을 할 수 있습니다. LiteLLM은 Python 코드를 작성하고 출력을 확인할 수 있는 데모 플레이그라운드를 제공하여 다양한 LLM 모델을 비교할 수 있습니다.
LiteLLM 리뷰 (0)
LiteLLM를 추천하시겠습니까? 의견을 남겨주세요