플랫폼

세이프톡 플랫폼 구조

AI는 초안을 제안하고, 안전 담당이 확정하고, 매일 문서는 코드가 채워요. 승인 기록은 데이터베이스에서 수정이 막혀 있어요.

  • 0회매일 문서를 채울 때 AI 호출
  • 3겹AI 호출 앞뒤의 검사
  • 행 단위 보안회사 사이의 격리
  • 해시 사슬 · 덧붙이기 전용승인 기록

구성

화면, 업무 모듈, AI 게이트웨이, 추론, 데이터의 다섯 층이에요. 업무 모듈은 서로의 내부를 참조할 수 없고, 이 규칙은 자동 테스트로 검사해요.

  1. 화면Next.js · React
    • 안전 담당 콘솔
    • 근로자 폰 화면
    • 운영자 콘솔
  2. 업무 모듈TypeScript · 순수 함수로 쓴 규칙
    • 문서
    • 승인
    • 양식
    • 교육
    • 화학물질
    • 서류 지도
    • 출력
    • 기록
    • 계정
    • 회사 범위
  3. AI 게이트웨이모든 모델 호출이 지나는 문 하나
    • 개인정보 차단
    • 구조 검증
    • 수치 검사
    • 근거 저장
  4. 추론제공사를 갈아 끼우는 자리
    • NVIDIA NIM
    • NeMo Guardrails
    • NeMo Retriever
    • 평가 예정
  5. 데이터PostgreSQL
    • 행 단위 보안 정책
    • 덧붙이기만 되는 기록
    • 해시 사슬
    • 파일 보관

문서 생성 과정

AI는 등록과 초안 단계에만 쓰여요. 호출 앞뒤에 검사가 있고, 사람이 확정한 뒤에는 코드만 동작해요.

문서 처리 기록TBM
순서단계하는 일
01고객 자료입력회사 양식(워드·엑셀), 위험성평가표, 공급사 MSDS
02개인정보 차단나가기 전 검사전화번호를 가리고, 근로자 명단의 이름이 있으면 보내지 않아요
03제안AI양식의 칸 나누기, 작업 카드 초안, MSDS 값 뽑기. 정해진 구조로만 받아요
04구조와 수치 검사들어온 뒤 검사구조가 틀리거나 규칙표에 없는 수치가 있으면 버리고 다시 요청해요
05확정사람안전 담당이 근거를 열어 보고, 고치고, 확정해요
06매일 채우기코드확정된 것으로 문서를 채워요. 이 길에서는 AI를 부르지 않아요
07승인과 기록사람버튼 한 번. 고칠 수 없는 기록과 PDF 해시가 남아요

검사를 통과하지 못한 출력은 쓰지 않고, 직접 작성하도록 안내해요.

AI 게이트웨이

모든 AI 호출은 함수 하나를 지나요. 보내기 전에 개인정보를 검사하고, 받은 뒤에 구조와 수치를 검사해요. 통과하지 못한 출력은 쓰지 않아요.

  • 개인정보 차단

    전화번호 모양을 찾아 가리고, 회사 명단의 이름과 대조해요. 하나라도 남아 있으면 요청을 보내지 않아요.

  • 구조 검증

    모델의 답은 미리 정한 스키마로만 받아요. 모양이 다르면 버려요. 문서 안에 숨긴 지시문은 자료로만 다뤄요.

  • 수치 검사

    답에서 단위가 붙은 숫자를 모두 뽑아 규칙표와 맞춰 봐요. 사람이 근거 조문과 함께 확인한 값이 아니면 그 출력은 쓰지 않아요.

AI 호출 검사 기록예시
단계하는 일결과
요청MSDS 값 뽑기 · 프롬프트 판 기록진행
나가기 전전화번호 1건 가림 · 명단의 이름 0건통과
추론정해진 구조(JSON)로만 응답 요청진행
구조 검증스키마 통과통과
수치 검사규칙표에 없는 수치 1건 → 버리고 다시 요청버림
2차 시도구조 통과 · 수치 통과 · 근거 연결통과
결과초안으로 저장 → 사람의 확정을 기다림진행

두 번 시도해도 통과하지 못하면 초안을 만들지 않고 직접 작성하도록 안내해요.

초안

추론 계층

게이트웨이는 모델 제공사를 바꿀 수 있게 만들었어요. 고객 문서를 외부 API로 보내지 않는 구성을 위해, 직접 운영하는 GPU 서버와 NVIDIA 추론 스택의 도입을 검토하고 있어요. 적용할 위치는 아래 세 곳이에요.

AI 게이트웨이
  • 개인정보 차단
  • 구조 검증
  • 수치 검사
  • NVIDIA NIM모델 서빙

    문서에서 값을 뽑는 모델을 추론 서비스로 올려요. 게이트웨이에서는 호출 주소만 바뀌고 앞뒤 검사는 그대로예요.

  • NeMo Guardrails요청과 응답의 규칙

    코드로 만든 세 검사 위에, 모델과 주고받는 말에 적용하는 규칙을 한 겹 더 둬요. 숨긴 지시문 같은 경우를 맡겨요.

  • NeMo Retriever근거 순위

    위험성평가표의 줄과 조문에서 초안의 근거를 고를 때, 찾은 후보의 순위를 다시 매겨요.

도입 평가 계획

세 가지 모두 도입 전이고 평가를 준비하고 있어요. 적용할 기능과 비교 항목은 아래와 같아요.

도입 평가 계획서

제품의 기능

양식 칸 나누기 · MSDS 값 뽑기

NVIDIA NIM평가 예정
적용할 곳

공개 모델을 우리가 운영하는 GPU 서버에 올려 문서 추출 작업 하나를 맡겨요. Nemotron 계열 모델도 함께 비교해요.

지금 방식

모델 연결 전이에요. 상용 API 한 곳을 기본 후보로 두고 있어요.

비교할 것

같은 합성 문서에서 항목별 일치율, 응답 시간, 문서 한 건당 비용

제품의 기능

AI 호출의 안전장치

NeMo Guardrails평가 예정
적용할 곳

모델에 보내는 요청과 받은 답에 업무 규칙을 한 겹 더 적용해요.

지금 방식

코드로 만든 검사 세 가지(개인정보 차단, 구조 검증, 수치 검사)와 단위 테스트가 있어요.

비교할 것

개인정보가 섞인 요청, 지어낸 수치, 문서 안에 숨긴 지시문을 걸러내는 비율

제품의 기능

작업 카드 초안의 근거 찾기

NeMo Retriever평가 예정
적용할 곳

위험성평가표의 줄과 조문 가운데 초안에 쓸 근거의 순위를 다시 매겨요.

지금 방식

설계 단계예요. 문장마다 근거를 연결하도록 정해 두었어요.

비교할 것

같은 작업에서 관련 근거가 상위 결과에 들어오는 비율

GPU 서버가 필요한 이유

고객 문서를 외부로 보내지 않기

양식과 위험성평가표에는 회사의 작업 방식이 들어 있어요. 모델을 직접 운영하면 이 문서를 외부 API로 보내지 않아도 돼요. 먼저 추출 품질이 충분한지 확인해요.

문서 한 건의 비용

작은 사업장이 쓰는 서비스라서 문서 한 건을 처리하는 비용이 중요해요. 같은 문서를 두 방식으로 처리해 건당 비용과 응답 시간을 나란히 재요.

필요한 연산 규모

AI는 양식 등록과 초안 단계에만 쓰이고 매일 문서를 채울 때는 호출하지 않아요. 문서 추출 품질과 비용을 비교할 수 있는 정도의 연산이 필요해요.

평가 방법

  • 지어낸 양식, MSDS, 위험성평가표로 만든 평가 묶음을 써요. 실제 고객 문서와 근로자 정보는 평가에 쓰지 않아요.
  • 정답과 항목 단위로 맞춰 봐요. 문서에 없는 값을 만들어 내면 실패로 세요.
  • 문서 안에 지시문을 숨긴 경우도 넣어요. 그 지시를 따르면 실패예요.
  • 평가가 끝난 항목만 도입한 것으로 적어요.

기록 무결성

승인 기록은 나중에 증빙으로 쓰여요. 수정과 삭제는 데이터베이스의 트리거로 막아요.

  • 승인한 판은 바뀌지 않아요

    승인된 판을 고치거나 지우려는 요청은 데이터베이스의 트리거가 거절해요. 고치려면 새 판과 사유가 필요해요.

  • 기록은 덧붙이기만 돼요

    이벤트 기록, 승인, 서명은 고치기·지우기·비우기가 모두 막혀 있어요.

  • 해시로 이어진 사슬

    이벤트 기록의 각 줄은 앞 줄의 해시를 품어요. 중간의 한 줄이 바뀌면 그 뒤가 모두 어긋나요.

  • 원문을 두지 않는 토큰

    세션과 근로자 링크의 토큰은 해시로만 저장해요. 비밀번호는 scrypt로 저장해요.

이벤트 기록예시
순번기록앞 줄의 해시이 줄의 해시
1문서 작성000000003fa91c2e
2승인 대기로 보냄3fa91c2eb70d44a9
3승인b70d44a9e15c08f3
4서명 7건 저장e15c08f39a26d7b0

각 줄이 앞 줄의 해시를 포함해요. 중간의 한 줄을 바꾸면 그 뒤의 해시가 모두 맞지 않게 돼요.

구현 현황

현재 상태를 세 가지로 나눠 적었어요.

만들고 테스트한 것

코드가 있고 자동 테스트가 통과해요

  • 회사별 데이터 격리

    PostgreSQL의 행 단위 보안 정책으로 회사 범위 밖의 행이 보이지 않아요. 실제 데이터베이스를 띄운 통합 테스트로 확인해요.

  • AI 호출의 문 하나와 세 안전장치

    모든 AI 호출이 한 함수를 지나요. 개인정보 차단, 구조 검증, 규칙표에 없는 수치 걸러내기를 코드로 만들고 단위 테스트로 확인해요. 모델은 아직 연결하지 않았어요.

  • 로그인 규칙

    비밀번호 확인(scrypt)과 세션 열기·확인·닫기.

  • 업무 규칙과 구조 검사

    승인, 판, 허가서의 현장 값 같은 규칙을 순수 함수로 쓰고, 모듈 경계와 승인된 의존성을 테스트가 지켜요.

만들고 있는 것

설계는 끝났고 차례로 구현해요

  • 로그인 화면과 API

    실패 횟수 제한까지 넣은 뒤에 실제 계정을 만들어요.

  • 문서 엔진과 승인함

    어제와 같음, 달라진 점, 버튼 한 번 승인, 묶음 PDF.

  • 근로자 교육과 서명

    링크 발송, 폰 카드와 퀴즈, 서명, 현장 모드.

  • 회사 양식과 화학물질

    양식의 칸 확정과 채우기, MSDS에서 대장·관리요령·경고표지 만들기.

평가할 것

아직 시작하지 않았어요. 적용할 곳과 잴 것만 정했어요

  • 우리 서버에서 모델 돌리기

    문서 추출 작업에 NVIDIA NIM으로 모델을 올려 품질·시간·비용을 재요.

  • 안전장치 한 겹 더

    지금의 코드 검사에 NeMo Guardrails를 더했을 때 걸러내는 비율을 비교해요.

  • 근거 순위 다시 매기기

    작업 카드 초안의 근거 찾기에 NeMo Retriever를 적용해 봐요.

NVIDIA, NIM, NeMo, Nemotron은 NVIDIA Corporation의 상표예요. 이 페이지에서는 평가할 대상을 가리키려고 적었고, 제휴나 승인을 뜻하지 않아요.

기술 문의

설계 문서와 테스트 기록을 공유해 드려요.

메일 보내기

contact@safetalkcorp.com