基于opengl计算着色器的transformer推理实现
本项目基于llama2.c(https://github.com/cgoxopx/llama2.gl)
使用方法:
make
./run_gpu stories15M.bin
| Name | Name | Last commit date | ||
|---|---|---|---|---|
基于opengl计算着色器的transformer推理实现
本项目基于llama2.c(https://github.com/cgoxopx/llama2.gl)
使用方法:
make
./run_gpu stories15M.bin