[Semantic Kernel] Kernel 이란?

Kernel

 

Kernel 개념

Kernel은 Semantic Kernel의 중심 구성 요소입니다. Kernel은 AI 애플리케이션을 실행하는데 필요한 모든 서비스 및 플러그인을 관리하는 종속성 주입 컨테이너입니다. Kernel은 모든 서비스 및 플러그인을 제공하는 경우 필요에 따라 AI에서 원활하게 사용됩니다. 간단히 말해, Semantic Kernel에서 AI 모델, 플러그인, 메모리, 그리고 그 외의 여러 기능을 연결하고 관리하는 역할을 수행합니다.

 

Microsoft - Semantic Kernel의 이해

 

Kernel은 위의 이미지와 같이 모니터링할 수 있는 단일 위치를 가지고 있다. 이 전체 프로세스에서 이러한 각 단계에서 트리거되는 이벤트 및 미들웨어를 만들 수 있다. 즉, 로깅과 같은 작업을 수행하고, 사용자에게 상태 업데이트를 제공하고, 가장 중요한 책임 있는 AI를 제공할 수 있다.

 

 

Kernel의 역할

• AI 모델 연결 및 호출: GPT 모델(OpenAI, Azure, OpenAI 등) 또는 기타 언어 모델을 호출하는데 사용된다.
• Plugin 관리: Semantic Kernel의 Plugin은 미리 정의된 함수 또는 워크플로를 포함하며, Kernel은 이를 로드하고 실행한다.
• Memory 관리: 장기 또는 단기 메모리를 통해 컨텍스트를 저장하고 검색할 수 있다.
• 워크플로 실행: Kernel은 Plugin과 AI모델을 결합하여 복잡한 워크플로를 구성하고 실행한다.

 

💡Tip
Plugin 컬렉션이 변경 가능하기 떄문에 각 사용 후에 삭제되도록 Kernel을 임시 서비스로 만드는 것이 좋다. Kernel은 매우 가벼우므로(Service 및 Plugin에 대한 컨테이너일 뿐이므로) 각 사용에 대해 새 Kernel을 만드는 것은 성능에 문제가 되지 않는다.