ins.md 1.2 KB
ins
项目因为算法迟迟没有出来版本, 所以目前项目还是属于停滞状态, 但是可以说说整体后面会用到哪些技术, 主要包含多平台容器管理docker、gpu资源分配的问题.
1.主要思路
项目开始时, 经过整体讨论, 发现首要的问题就是GPU资源怎么样合理分配, 因为应用的场景比较广, 所需的资源也比较大, 那这时候在使用边缘端设备并不合适, 只能使用显卡. 所以后面我这边就去研究, 首先就是K8S, 但是这是遇到一个问题就是K8S具备GPU分配的能力, 但是只能按照卡的数量来分配, 颗粒度很粗糙, 后面我就查找的一种阿里云开源的技术[]GPU-share技术, 结合k8s使用, 能够将GPU资源以显存的形式进行分配. 因为原生k8s不是特别人性化, 后面还加入一个国内青云开源的kubesphere, 方便后面多层级权限管理.
代码部分就没什么太多参考了, 主要没算法也搞不出了.
2.代码仓库
无太多意义, 地址