基于opengl计算着色器的transformer推理实现
本项目基于llama2.c(https://github.com/cgoxopx/llama2.gl)
使用方法：
make
./run_gpu stories15M.bin
SingingRivulet/transformer.gl
Folders and files
| Name | Name | Last commit date | ||
|---|---|---|---|---|
| Name | Name | Last commit date | ||
|---|---|---|---|---|
基于opengl计算着色器的transformer推理实现
本项目基于llama2.c(https://github.com/cgoxopx/llama2.gl)
使用方法：
make
./run_gpu stories15M.bin