Llama2

ローカルLLM

OSなしでLlama2推論|1356バイトのx86アセンブリ実装「sectorllm」を検証

OSもPythonも不要。ブートセクターから直接動作する1500バイトのLlama2推論エンジン「sectorllm」が話題です。ローカルLLMの未来を徹底解説。