회사 밖으로 한 줄도 나가지 않는 AI.

SJTech는 기업 전용 로컬 AI를 설계부터 구축, 최적화까지 책임집니다. 하드웨어와 오픈 웨이트 모델은 물론, 필요하다면 귀사 업무에 맞춰 학습한 전용 모델까지 제공합니다. 프롬프트와 데이터는 언제나 귀사의 장비 안에 머뭅니다.

도입 상담 문의하기 서비스 살펴보기

Hugging Face에서 가장 많이 다운로드된 무검열 로컬 LLM 라인 SuperGemma의 개발자가 직접 설계합니다. 누적 다운로드 20만 회 이상.

클라우드 API를 쓰면 모든 프롬프트와 파일이 사내망을 넘어, 통제할 수 없는 외부 서버로 전송됩니다. 로컬 AI는 모델이 사내망 안에 있습니다. 어떤 데이터도 경계를 넘지 않습니다.

직접 튜닝해 공개한 모델과 지원 포맷

SuperGemma4
SuperGLM-5.2
SuperDeepseek-V4
SuperHY3
SuperQwen
GGUF
MLX
NVFP4

기업이 AI를 사내에 두기 시작한 세 가지 이유

오픈 웨이트 모델의 성능이 빠르게 올라오면서, AI를 직접 운영하는 것이 현실적인 선택지가 되었습니다.

토큰 비용은 쓸수록 불어나고, 하드웨어는 한 번이면 됩니다.

클라우드 API는 토큰 단위로 과금됩니다. 사용자가 늘고, 에이전트가 늘고, 컨텍스트가 길어질수록 청구액은 커지고 예측은 어려워집니다.

로컬 모델은 회사가 보유한 장비에서 구동됩니다. 도입 이후 토큰 백만 개를 더 쓰는 데 드는 비용은 전기료 수준입니다. 실제로 기업의 토큰 사용량에서 오픈 웨이트 모델이 차지하는 비중은 꾸준히 커지고 있습니다.

기업 AI 토큰 사용량 중 오픈 웨이트 모델 비중

23%1년 전

34%2026년 9월

41%12개월 뒤 예상

Enterprise Technology Research, 기업 200곳 설문, 2026년 9월 [1]

69%오픈 웨이트 모델을 실제 운영 중인 기업이 비용 절감을 이유로 꼽은 비율 [1]

93%AI 워크로드를 퍼블릭 클라우드에서 옮겼거나 검토 중인 기업 [2]

56 → 41%운영 추론을 주로 퍼블릭 클라우드에서 돌리는 기업 비율, 작년 대비 올해 [3]

밖으로 나간 적 없는 데이터는 유출될 일도 없습니다.

외부 모델을 쓴다는 것은 프롬프트와 문서, 코드를 제3자에게 맡긴다는 뜻입니다. 보관 기간과 학습 활용 여부는 사업자와 계약에 따라 다르지만, 데이터가 사내망을 떠난다는 사실은 달라지지 않습니다.

로컬 모델은 모든 데이터를 사내에 두며, 완전한 망분리 환경에서도 운영할 수 있습니다. 유출 사고의 규모는 해마다 커지고 있고, 임직원이 회사 데이터를 외부 AI 도구에 무단으로 입력하는 '섀도 AI'가 주요 원인으로 떠올랐습니다.

최근 국내 대형 유출 사고의 피해 규모

쿠팡3,756만 명

SK텔레콤2,324만 명

티빙1,953만 명

연합뉴스 보도 [5]

43%2026년 보안 사고 중 섀도 AI가 연루된 비율. 1년 전에는 20% [4]

$5.39M섀도 AI가 연루된 유출 사고의 평균 비용. 전체 평균은 499만 달러 [4]

91%민감한 데이터를 다루는 AI는 일반 퍼블릭 클라우드에 두지 않겠다는 IT 의사결정자 [2]

2,3832025년 국내 민간 침해사고 신고 건수. 전년 대비 26.3% 증가 [6]

보안팀에는 일을 거절하지 않는 모델이 필요합니다.

프론티어 모델은 가드레일 때문에 방어자의 일상 업무조차 거절하는 경우가 많습니다. 알려진 취약점의 개념 증명 코드 작성, 악성코드 분석, 레드팀 훈련 설계가 대표적입니다.

자체 장비에서 구동하는 무검열 오픈 웨이트 모델은 이런 요청에 막힘없이 답하고, 민감한 분석 결과도 사내에 남습니다. 성능 저하 없이 거부 반응만 제거하는 기술이 SJTech의 전문 분야이며, SuperGemma가 주목받은 이유입니다.

무검열 모델은 승인된 업무 용도로만 공급합니다. 자사 시스템 또는 계약상 점검 권한이 있는 시스템을 대상으로 한 작업에 한합니다.

모델 실행 위치에 따른 주요 보안 업무 처리
업무	외부 프론티어 모델	로컬 무검열 모델
알려진 CVE의 개념 증명 코드	거절 빈번	정상 응답
악성코드 샘플 분석	거절 빈번	정상 응답
임직원 대상 피싱 모의훈련	거절 빈번	정상 응답
레드팀 공격 경로 설계	거절 빈번	정상 응답
분석 결과가 저장되는 곳	사업자 서버	사내 보관

클라우드 API와 로컬 AI, 한눈에 비교

모든 상황에 맞는 정답은 없습니다. 두 방식의 현재 위치를 있는 그대로 정리했습니다.

	클라우드 API	SJTech 로컬 AI
비용	토큰 단위 과금. 사용자와 에이전트가 늘수록 증가합니다.	하드웨어는 한 번 구매. 이후에는 대부분 전기료입니다.
데이터	요청할 때마다 사업자 서버로 전송됩니다.	사내 네트워크 안의 장비에만 머뭅니다.
맞춤화	통제할 수 없는 모델에 프롬프트와 설정만 조정합니다.	귀사 업무로 파인튜닝하고, 가중치는 귀사 소유입니다.
보안 업무	가드레일이 익스플로잇, 악성코드 관련 작업을 자주 거부합니다.	무검열 모델이 승인된 보안 요청에 응답합니다.
가용성	인터넷이 필요하고, 모델과 가격이 사업자 일정에 따라 바뀝니다.	오프라인, 망분리 환경에서 동작합니다. 직접 바꾸기 전에는 아무것도 바뀌지 않습니다.
순수 성능	가장 어려운 추론은 여전히 최대 규모 프론티어 모델이 앞섭니다.	대부분의 기업 업무에는 충분합니다. 먼저 귀사 업무로 테스트합니다.

컨설팅부터 전용 모델까지, SJTech의 서비스

한 단계만 맡기셔도, 전 과정을 맡기셔도 좋습니다. 컨설팅으로 시작해 수치를 확인한 뒤 다음 단계를 결정하시기를 권합니다.

컨설팅

현재 사용 중인 AI 환경을 진단하고, 같은 업무를 로컬에서 수행하기 위한 요건을 정리합니다.
- 현재 AI 활용 현황과 API 비용 검토
- 업무와 언어에 맞는 모델 선정
- 보안 및 컴플라이언스 요구사항 정리
- 로컬과 API의 비용 비교
하드웨어 공급

필요한 장비 규모를 산정해 조달·설치하고, 그 위에 추론 환경을 구축합니다.
- 워크스테이션 한 대부터 멀티 GPU 클러스터까지 규모 산정
- 조달 및 현장 설치
- 추론 서버, 양자화 빌드, 접근 제어 구성
- 망분리 환경 구성
전용 모델

기성 모델로 부족하다면, 귀사 업무에 맞춰 학습한 전용 모델을 개발해 가중치까지 인도합니다.
- 업무에 맞춘 파인튜닝과 강화학습(RL)
- 보안팀과 연구팀을 위한 무검열 처리
- 귀사 테스트 케이스 기반 평가
- 완성된 가중치는 귀사 소유

업무 규모에 맞춘 하드웨어 구성

모델 크기와 동시 사용자 수에 맞춰 최적의 장비를 제안합니다. 대표적인 구성은 세 가지입니다.

팀

책상이나 서버실 한쪽에 두는 소형 AI 워크스테이션 한 대. 한 팀 또는 파일럿에 적합합니다.

예: NVIDIA DGX Spark 1대. 통합 메모리 128GB, 최대 2천억 파라미터 모델 [8]

부서

워크스테이션 여러 대를 하나의 클러스터로 묶어 더 큰 모델이나 더 많은 사용자를 지원합니다.

예: DGX Spark 4대 연결. 합산 512GB, 최대 7천억 파라미터 모델 [8]

전사

랙이나 데이터센터에 설치하는 멀티 GPU 서버. 다수의 동시 사용자를 위한 구성입니다.

동시 접속 수와 목표 응답 속도를 기준으로 컨설팅 단계에서 산정

모델 크기 수치는 NVIDIA 공개 사양 기준입니다 [8]. 실제 장비는 프로젝트별로 선정합니다.

로컬 AI가 꼭 필요한 현장

데이터가 건물 밖으로 나가서는 안 되는 모든 조직이 대상입니다. 대표적인 분야는 다음과 같습니다.

금융·보험: 망분리 규제 환경에서의 사내 문서 질의응답과 컴플라이언스 검토.
의료: 환자 데이터를 원내에 둔 채 진료 기록 요약과 정리.
공공·국방: 외부 연결이 전혀 없는 완전 망분리 구축.
보안팀: 거부하지 않는 모델로 악성코드 분석, 레드팀 설계, 로그 분석.
제조·R&D: 설계 문서와 소스 코드를 다루는 어시스턴트. 지식재산이 회사 밖으로 나가지 않습니다.
법률·회계: 의뢰인 비밀 유지가 필요한 계약서와 신고 서류 검토.

SuperGemma를 만든 개발자가 직접 합니다

SJTech는 SuperGemma의 개발자 Jun Song 대표가 이끕니다. SuperGemma4는 Hugging Face에서 가장 많이 다운로드된 무검열 로컬 LLM 라인이며, Super-Tune 시리즈는 다섯 개 모델 패밀리를 기업 현장에서 널리 쓰는 GGUF, MLX, NVFP4 포맷으로 제공합니다.

Jun Song 대표는 X에서 @jun_song 계정으로 로컬 AI 소식을 전하며, 5만 명이 넘는 팔로워와 소통하고 있습니다. SJTech는 그 전문성을 기업 현장에 그대로 옮깁니다.

supergemma.ai Hugging Face X @jun_song

모델 다운로드: 200K+
공개 모델: 24
모델 패밀리: 5
X 팔로워: 50K+

Super-Tune 모델 패밀리
패밀리	기반 모델	포맷
SuperGemma4	Gemma 4	GGUF, MLX, NVFP4
SuperGLM-5.2	GLM-5.2	NVFP4
SuperDeepseek-V4	DeepSeek-V4 Flash	멀티 GPU 빌드
SuperHY3	HY3	GGUF, MLX, NVFP4
SuperQwen	Qwen AgentWorld	GGUF, MLX, NVFP4

자주 묻는 질문

로컬 AI란 무엇인가요?

로컬 AI는 언어 모델을 외부 사업자의 API로 호출하지 않고, 회사가 소유하거나 통제하는 장비에서 직접 실행하는 방식입니다. 사무실이나 자체 데이터센터에 설치하며, 프롬프트와 파일, 결과물이 모두 사내망 안에 머뭅니다.

로컬 모델이 클라우드 API를 대체할 만큼 좋은가요?

문서 작업, 코딩 보조, 사내 검색, 내부 데이터를 다루는 에이전트 등 많은 업무에서는 충분합니다. 가장 어려운 추론에서는 여전히 최대 규모 프론티어 모델이 앞섭니다. 컨설팅 단계에서 후보 모델을 귀사의 실제 업무로 테스트하므로, 벤치마크가 아니라 결과를 보고 결정하실 수 있습니다.

토큰 과금과 비교하면 비용이 얼마나 드나요?

사용량에 따라 다릅니다. 하드웨어는 초기 비용이 들지만 이후 사용 비용은 거의 없습니다. 사용량이 꾸준히 많은 조직일수록 손익분기점에 빨리 도달합니다. 구매 전에 현재 API 청구서를 기준으로 계산해 드립니다.

무검열 모델이 무엇이고, 기업에 왜 필요한가요?

무검열 모델은 모델에 내장된 거부 반응을 제거한 모델입니다. 취약점 연구, 악성코드 분석, 레드팀 훈련처럼 승인된 보안 업무는 외부 모델이 거부하는 경우가 많아 보안팀에 꼭 필요합니다. 로컬에서 실행하면 분석 결과도 외부로 나가지 않습니다.

어떤 하드웨어가 필요한가요?

소규모 팀용 워크스테이션 한 대부터 전사용 멀티 GPU 클러스터까지 다양합니다. 모델, 사용자 수, 필요한 응답 속도에 따라 적정 규모가 달라집니다. 규모 산정부터 공급, 설치까지 진행합니다.

해외 기업도 의뢰할 수 있나요?

가능합니다. 한국에 기반을 두고 한국어와 영어로 진행합니다. 하려는 일을 적어 sjtechkor@gmail.com으로 보내 주세요.

지금의 AI 환경을 들려주세요

현재 AI 활용 현황과 대략적인 월 비용, 보안 요건을 보내 주시면 귀사에 맞는 로컬 AI 구성안을 회신드리겠습니다.

sjtechkor@gmail.com