#LLM API
#LLM API 관련 기술 가이드
총 2편의 가이드가 등록되어 있습니다.
💻
프로그래밍 (2)
Unity C#과 UniTask로 대규모 LLM API 요청과 GC 줄이기
Unity 클라이언트에 LLM API 요청이 몰릴 때 생기는 동시성 폭주, 프레임 드롭, GC 스파이크를 살펴봅니다. UniTask 기반 동시성 제한과 취소, 버퍼 재사용으로 요청 흐름을 안정화하는 방법을 정리합니다.
C# Async/Await로 대규모 LLM API 병목과 GC를 줄이는 실전 패턴
C# Async/Await 기반 LLM API 대량 호출에서 스레드 고갈, 무제한 동시성, 문자열·JSON 할당으로 생기는 병목을 진단하고 SemaphoreSlim, 재시도, 스트리밍, 풀링으로 안정화하는 방법을 정리합니다.