양식 칸 나누기 · MSDS 값 뽑기
NVIDIA NIM평가 예정공개 모델을 우리가 운영하는 GPU 서버에 올려 문서 추출 작업 하나를 맡겨요. Nemotron 계열 모델도 함께 비교해요.
모델 연결 전이에요. 상용 API 한 곳을 기본 후보로 두고 있어요.
같은 합성 문서에서 항목별 일치율, 응답 시간, 문서 한 건당 비용
AI는 초안을 제안하고, 안전 담당이 확정하고, 매일 문서는 코드가 채워요. 승인 기록은 데이터베이스에서 수정이 막혀 있어요.
화면, 업무 모듈, AI 게이트웨이, 추론, 데이터의 다섯 층이에요. 업무 모듈은 서로의 내부를 참조할 수 없고, 이 규칙은 자동 테스트로 검사해요.
AI는 등록과 초안 단계에만 쓰여요. 호출 앞뒤에 검사가 있고, 사람이 확정한 뒤에는 코드만 동작해요.
| 순서 | 단계 | 하는 일 |
|---|---|---|
| 01 | 고객 자료입력 | 회사 양식(워드·엑셀), 위험성평가표, 공급사 MSDS |
| 02 | 개인정보 차단나가기 전 검사 | 전화번호를 가리고, 근로자 명단의 이름이 있으면 보내지 않아요 |
| 03 | 제안AI | 양식의 칸 나누기, 작업 카드 초안, MSDS 값 뽑기. 정해진 구조로만 받아요 |
| 04 | 구조와 수치 검사들어온 뒤 검사 | 구조가 틀리거나 규칙표에 없는 수치가 있으면 버리고 다시 요청해요 |
| 05 | 확정사람 | 안전 담당이 근거를 열어 보고, 고치고, 확정해요 |
| 06 | 매일 채우기코드 | 확정된 것으로 문서를 채워요. 이 길에서는 AI를 부르지 않아요 |
| 07 | 승인과 기록사람 | 버튼 한 번. 고칠 수 없는 기록과 PDF 해시가 남아요 |
검사를 통과하지 못한 출력은 쓰지 않고, 직접 작성하도록 안내해요.
모든 AI 호출은 함수 하나를 지나요. 보내기 전에 개인정보를 검사하고, 받은 뒤에 구조와 수치를 검사해요. 통과하지 못한 출력은 쓰지 않아요.
전화번호 모양을 찾아 가리고, 회사 명단의 이름과 대조해요. 하나라도 남아 있으면 요청을 보내지 않아요.
모델의 답은 미리 정한 스키마로만 받아요. 모양이 다르면 버려요. 문서 안에 숨긴 지시문은 자료로만 다뤄요.
답에서 단위가 붙은 숫자를 모두 뽑아 규칙표와 맞춰 봐요. 사람이 근거 조문과 함께 확인한 값이 아니면 그 출력은 쓰지 않아요.
| 단계 | 하는 일 | 결과 |
|---|---|---|
| 요청 | MSDS 값 뽑기 · 프롬프트 판 기록 | 진행 |
| 나가기 전 | 전화번호 1건 가림 · 명단의 이름 0건 | 통과 |
| 추론 | 정해진 구조(JSON)로만 응답 요청 | 진행 |
| 구조 검증 | 스키마 통과 | 통과 |
| 수치 검사 | 규칙표에 없는 수치 1건 → 버리고 다시 요청 | 버림 |
| 2차 시도 | 구조 통과 · 수치 통과 · 근거 연결 | 통과 |
| 결과 | 초안으로 저장 → 사람의 확정을 기다림 | 진행 |
두 번 시도해도 통과하지 못하면 초안을 만들지 않고 직접 작성하도록 안내해요.
초안게이트웨이는 모델 제공사를 바꿀 수 있게 만들었어요. 고객 문서를 외부 API로 보내지 않는 구성을 위해, 직접 운영하는 GPU 서버와 NVIDIA 추론 스택의 도입을 검토하고 있어요. 적용할 위치는 아래 세 곳이에요.
문서에서 값을 뽑는 모델을 추론 서비스로 올려요. 게이트웨이에서는 호출 주소만 바뀌고 앞뒤 검사는 그대로예요.
코드로 만든 세 검사 위에, 모델과 주고받는 말에 적용하는 규칙을 한 겹 더 둬요. 숨긴 지시문 같은 경우를 맡겨요.
위험성평가표의 줄과 조문에서 초안의 근거를 고를 때, 찾은 후보의 순위를 다시 매겨요.
세 가지 모두 도입 전이고 평가를 준비하고 있어요. 적용할 기능과 비교 항목은 아래와 같아요.
도입 평가 계획서
공개 모델을 우리가 운영하는 GPU 서버에 올려 문서 추출 작업 하나를 맡겨요. Nemotron 계열 모델도 함께 비교해요.
모델 연결 전이에요. 상용 API 한 곳을 기본 후보로 두고 있어요.
같은 합성 문서에서 항목별 일치율, 응답 시간, 문서 한 건당 비용
모델에 보내는 요청과 받은 답에 업무 규칙을 한 겹 더 적용해요.
코드로 만든 검사 세 가지(개인정보 차단, 구조 검증, 수치 검사)와 단위 테스트가 있어요.
개인정보가 섞인 요청, 지어낸 수치, 문서 안에 숨긴 지시문을 걸러내는 비율
위험성평가표의 줄과 조문 가운데 초안에 쓸 근거의 순위를 다시 매겨요.
설계 단계예요. 문장마다 근거를 연결하도록 정해 두었어요.
같은 작업에서 관련 근거가 상위 결과에 들어오는 비율
양식과 위험성평가표에는 회사의 작업 방식이 들어 있어요. 모델을 직접 운영하면 이 문서를 외부 API로 보내지 않아도 돼요. 먼저 추출 품질이 충분한지 확인해요.
작은 사업장이 쓰는 서비스라서 문서 한 건을 처리하는 비용이 중요해요. 같은 문서를 두 방식으로 처리해 건당 비용과 응답 시간을 나란히 재요.
AI는 양식 등록과 초안 단계에만 쓰이고 매일 문서를 채울 때는 호출하지 않아요. 문서 추출 품질과 비용을 비교할 수 있는 정도의 연산이 필요해요.
승인 기록은 나중에 증빙으로 쓰여요. 수정과 삭제는 데이터베이스의 트리거로 막아요.
승인된 판을 고치거나 지우려는 요청은 데이터베이스의 트리거가 거절해요. 고치려면 새 판과 사유가 필요해요.
이벤트 기록, 승인, 서명은 고치기·지우기·비우기가 모두 막혀 있어요.
이벤트 기록의 각 줄은 앞 줄의 해시를 품어요. 중간의 한 줄이 바뀌면 그 뒤가 모두 어긋나요.
세션과 근로자 링크의 토큰은 해시로만 저장해요. 비밀번호는 scrypt로 저장해요.
| 순번 | 기록 | 앞 줄의 해시 | 이 줄의 해시 |
|---|---|---|---|
| 1 | 문서 작성 | 00000000 | 3fa91c2e |
| 2 | 승인 대기로 보냄 | 3fa91c2e | b70d44a9 |
| 3 | 승인 | b70d44a9 | e15c08f3 |
| 4 | 서명 7건 저장 | e15c08f3 | 9a26d7b0 |
각 줄이 앞 줄의 해시를 포함해요. 중간의 한 줄을 바꾸면 그 뒤의 해시가 모두 맞지 않게 돼요.
현재 상태를 세 가지로 나눠 적었어요.
코드가 있고 자동 테스트가 통과해요
PostgreSQL의 행 단위 보안 정책으로 회사 범위 밖의 행이 보이지 않아요. 실제 데이터베이스를 띄운 통합 테스트로 확인해요.
모든 AI 호출이 한 함수를 지나요. 개인정보 차단, 구조 검증, 규칙표에 없는 수치 걸러내기를 코드로 만들고 단위 테스트로 확인해요. 모델은 아직 연결하지 않았어요.
비밀번호 확인(scrypt)과 세션 열기·확인·닫기.
승인, 판, 허가서의 현장 값 같은 규칙을 순수 함수로 쓰고, 모듈 경계와 승인된 의존성을 테스트가 지켜요.
설계는 끝났고 차례로 구현해요
실패 횟수 제한까지 넣은 뒤에 실제 계정을 만들어요.
어제와 같음, 달라진 점, 버튼 한 번 승인, 묶음 PDF.
링크 발송, 폰 카드와 퀴즈, 서명, 현장 모드.
양식의 칸 확정과 채우기, MSDS에서 대장·관리요령·경고표지 만들기.
아직 시작하지 않았어요. 적용할 곳과 잴 것만 정했어요
문서 추출 작업에 NVIDIA NIM으로 모델을 올려 품질·시간·비용을 재요.
지금의 코드 검사에 NeMo Guardrails를 더했을 때 걸러내는 비율을 비교해요.
작업 카드 초안의 근거 찾기에 NeMo Retriever를 적용해 봐요.
NVIDIA, NIM, NeMo, Nemotron은 NVIDIA Corporation의 상표예요. 이 페이지에서는 평가할 대상을 가리키려고 적었고, 제휴나 승인을 뜻하지 않아요.
설계 문서와 테스트 기록을 공유해 드려요.
contact@safetalkcorp.com