4일동안 대구의 영남이공대에서 피지컬AI교육을 받았습니다.
그 비싼 장비들을 완벽하게 갖추고 있는 환경이 영남이공대에 있더라구요. ^^
이 멋진 전용장비는 구하기도 힘들텐데....여튼 저도 여기서 처음봤네요.
피지컬AI의 작업은 대부분 로봇을 현장에서 운영하기 위한 학습을 위한 장비로 활용되더라구요.
저는 피지컬 AI를 조금 다르게 생각했거든요.
그런데, 해보니...아~~~ 이 장비 아니면 피지컬 AI에서는 학습이라는 과정 자체가 힘들겠다라는 생각이 들었습니다.
손바닥 보다 조금 큰 슈퍼컴 ?
NVIDIA 토르
NVIDIA DGX Spark
이 컴퓨터가 안경이랑 비교해보면 대충 크기를 알 수 있습니다.
크기는 작은데....가격은 절대 작지 않다는.... (800만원, 1000만원 ???)
연산능력이 어마어마합니다.
처음엔 뭐 ...이랬는데..왠만한 컴퓨터에서는 돌릴 수 없는 소프트웨어들을 돌리더라구요.
수업 현장
간단하게 OPEN CV와 여러가지를 단계적으로 실습했습니다.
나중에는 실시간으로 들어오는 카메라를 OLLAMA와 vLLM에 설치한 GEMMA4로 바로 판단하는 능력을 봤습니다.
속도가 엄청납니다.
이게 카메라의 영상을 챗GPT가 바로 해석해서 화면에 뿌리는 것과 같은데요, 더 놀라운건 해당 장비에 설치한 LLM독립모델에서 직접 판단해서 영상에 반영한다는거죠.
다시말하면 챗GPT 미니가 장비에 설치되서 인터넷이 되지 않아도 혼자서 추론을 직접 진행한다는거예요.
우와~~~~
예전에 비디오카드 수백만원짜리 PC에 GEMMA로 인식을 시켰더니 10초 정도 걸리던게...여기선..1~2초면 끝나더라구요.
DGX Spark는 더 장난아닙니다.
ISSAC SIM으로 3D모델링 된것을 직접 영상데이터를 생성하고 그 생성된 데이터로 로봇의 경로 등 환경에 적응할 수 있는 학습데이터를 만들어서 로봇에 학습을 시킵니다.
현장상황에 맞게 학습시키려면 로봇이 그 현장에 가야하는데, 실제 존재하지도 않는 현장을 가상화하여 작업을 하는것이죠.
바로 이런 학습을 위해 이 비싼 전용 장비가 필요하더라구요.
4일간의 교육
정말 대단한 경험이었습니다.
실제 전용장비로 피지컬AI의 프로세스를 직접 경험했네요.
사실 로봇전문가들이 써야되거나 연구용 장비에 가깝습니다만, 기업에서 독립형 LLM을 돌릴때도 반드시 필요해 보입니다.
기회가 되면 조금더 깊숙히 들어가봐야되겠어요.
이 놀라운 장비의 활용성에 대해서요 ^^