딥스킬
경력근거: 고도의 소크라테스식 논리학과 LLM을 결합하여, 실제로 사고하고 토론하며 가르칠 수 있는 AI
※ 실제 산출물이 아닌 AI 예측 시안입니다.
딥스킬은 소크라테스식 논증 기술을 상용화해 비판적 사고를 훈련시키는 회사라, 주장·근거·반론의 약한 고리를 짚는 이 도구는 딥스킬이 다루는 실제 논증 구조와 루브릭이 있어야 채점을 검증할 수 있습니다.
고도의 소크라테스식 논리학 + LLM 으로 사고·토론·교육이 미션. 논증을 채점·교정하려면 주장-근거-반론 구조를 한 스키마로 닫아야 한다.
실험적 발명품을 한 번의 실패 없이 전달되는 시스템으로 만드는 엔지니어링 중심 역할. 평가 출력의 형식·신뢰도를 강제하는 가드가 핵심.
비판적 사고 훈련을 상용화해 매출을 내는 자립형 팀. 채점 신뢰도가 곧 제품 가치라, 채점이 전문가와 얼마나 일치하는지로 신뢰를 쌓는다.
학습자가 쓴 논증(주장·근거·반론)에 루브릭과 주제·난이도를 붙여 한 화면에서 봅니다. LLM 이 약한 고리(근거 없는 주장·논리 비약·반론 회피) Top3 와 다음 훈련 과제 3건을 제안하고, 매일 채점 리포트를 슬랙으로 보냅니다. 1주차만으로 완성품이고, 채점이 전문가와 맞는지 확인(2주차)·학습자별 약점 추적(3주차)으로 키웁니다. (근거는 채용공고 정렬이다.)
약한 고리를 매번 손으로 짚어 피드백을 써주는 상황을 끝내고, 그 채점이 실제로 전문가 기준과 맞는지까지 확인하고 싶은 딥스킬 PE.
주장·근거·반론을 한 스키마로 묶고 루브릭·주제를 붙이면, LLM 이 (a) 약한 고리 Top3 와 (b) 다음 훈련 과제 3건을 몇 초 안에 답하고, (c) 전문가 채점 라벨과 대조해 그 채점이 맞았는지 확인합니다.
논증·루브릭·주제를 한곳에 모아, 약한 고리 Top3 와 다음 훈련 과제를 LLM 이 만들고 매일 슬랙으로 보내는 동작하는 도구입니다.
LLM 채점과 전문가 라벨의 일치도를 맞춰보고, 두 채점자가 논증 타당성에 얼마나 동의하는지 보여주는 대시보드입니다.
확인된 채점을 바탕으로 학습자별 약점 유형을 누적·추적해, 다음 훈련을 개인화하는 단계입니다.
약한 고리 시나리오 10개를 넣으면 약한 고리 Top3 와 다음 훈련 과제 3건이 몇 초 안에 나오는 걸 시연으로 보여줍니다.
일부러 만든 악성·결측 입력 30종을 넣어도 출력 형식(스키마)이 한 번도 안 깨집니다. 형식 검증(Zod)을 자동 통과합니다.
매일 채점 리포트가 슬랙으로 자동 발송되는 걸 14일치 시연으로 보여줍니다.
내가 만든 정답 30개 중 약한 고리 Top3 가 일치한 게 23개(77%). 단, 정답과 데이터를 모두 내가 만든 합성 기준이므로 ‘성능 검증’ 이 아니라 ‘데모 조건에서의 동작’ 입니다.
위 수치는 전부 작성자가 만든 더미데이터 자가채점이며, 실제 일치도·정확도는 딥스킬 실 논증 데이터 + 실 전문가 검수가 있어야 측정 가능합니다. 이 도구는 ‘그 검증을 바로 돌릴 수 있는 상태’ 까지 만듭니다.
이건 고객·실데이터 없이 혼자 만든 포트폴리오입니다. 모든 수치는 합성 데이터 자가채점이라 ‘성능 증명’ 이 아닙니다. 면접에서 솔직히 ‘데모 조건 동작 + 실검증 준비 상태’ 로 설명합니다.
정답을 작성자가 만들었으니 잘 맞는 것이 당연합니다. 일부러 헷갈리는 결측·악성·경계 케이스를 더미에 섞어, 쉬운 문제만 푸는 게 아님을 보여줘야 합니다.
‘근거가 부족하다’ 는 판정이 채점자 주관일 수 있습니다. 근거 인용을 강제하고 별도 LLM 검사로 단정 표현을 누그러뜨립니다.
논증 주제·난이도가 제각각이라 점수가 흔들립니다. 주제·난이도를 표준 표로 묶고, 못 묶은 건 추측하지 말고 ‘미분류’ 로 알립니다.
실제 도입 시 달라지는 것 명시합니다. 실 학습자 분포는 더미와 다르므로 루브릭·기준을 다시 맞춰야 하고, 전문가 검수도 실제 인력으로 교체해야 한다(도입 단계 과제로 분리)
① 인라인 샘플 · ② seed.json 다운로드 · ③ 증강 프롬프트. 세 층 모두 동일한 schema 에서 파생.
학습자 논증 세션(주장·근거·반론) 일일 로그. 채점 LLM 이 가장 먼저 질의하는 테이블. 운영 현실대로 결측(반론 미작성·근거 누락)·미분류 주제·경계값을 일부러 섞어, 쉬운 데이터만 푸는 게 아님을 보여준다.
| session_id | date | learner_id | topic_id | claim | evidence | rebuttal | difficulty |
|---|---|---|---|---|---|---|---|
| s_0001 | 2026-05-04 | L01 | t_ai_ethics | AI 감시는 안전을 높인다 | 범죄율 통계 인용 | 사생활 침해 반론 수용 | mid |
| s_0002 | 2026-05-04 | L02 | t_ai_ethics | AI 감시는 안전을 높인다 | — | — | mid |
| s_0003 | 2026-05-04 | L03 | t_min_wage | 최저임금 인상은 고용을 줄인다 | OECD 보고 인용 | 수요 효과 반론 | hard |
| s_0004 | 2026-05-05 | L01 | t_min_wage | 최저임금 인상은 고용을 줄인다 | 일화적 사례만 | — | hard |
| s_0005 | 2026-05-05 | L04 | — | 원격근무가 생산성을 높인다 | 내부 설문 | 표본 편향 반론 | mid |
아래 Zod 스키마에 맞는 한국어 논증 학습 로그 14일치 JSON 배열로 생성. 주제 4종(AI 윤리·최저임금·원자력·원격근무), 학습자 8명, 난이도 분포 포함.
{"type":"object","properties":{"session_id":{"type":"string"},"date":{"type":"string"},"learner_id":{"type":"string"},"topic_id":{"type":["string","null"]},"claim":{"type":"string"},"evidence":{"type":["string","null"]},"rebuttal":{"type":["string","null"]},"difficulty":{"type":"string","enum":["easy","mid","hard"]}},"required":["session_id","date","learner_id","topic_id","claim","evidence","rebuttal","difficulty"]}
쉬운 데이터만 만들지 말 것 — 다음 하드 케이스를 의도적으로 섞어라: (1) evidence/rebuttal 가 null 인 결측 행 각 2~3건(근거·반론 미작성), (2) topic_id=null 인 미분류 2건, (3) claim 빈 문자열 1건(경계값), (4) 같은 주장에 근거 충실 vs 부실이 갈리는 쌍 2개. JSON 배열만.{"type":"object","properties":{"session_id":{"type":"string"},"date":{"type":"string"},"learner_id":{"type":"string"},"topic_id":{"type":["string","null"]},"claim":{"type":"string"},"evidence":{"type":["string","null"]},"rebuttal":{"type":["string","null"]},"difficulty":{"type":"string","enum":["easy","mid","hard"]}},"required":["session_id","date","learner_id","topic_id","claim","evidence","rebuttal","difficulty"]}전문가 페르소나(LLM 시뮬 외부 채점자) 2명이 LLM 채점에 부여한 라벨. Cohen’s κ 의 입력. 채점자 불일치·근거 단정 과잉을 일부러 섞어, 일치도가 1.0 이 아닌 현실을 보여준다.
| session_id | evaluator | valid | weak_link | overclaim | note |
|---|---|---|---|---|---|
| s_0001 | expert_p1 | true | none | false | — |
| s_0001 | expert_p2 | true | none | false | 반론 수용 적절 |
| s_0002 | expert_p1 | false | no_evidence | false | 근거 전무 |
| s_0002 | expert_p2 | false | no_evidence | false | — |
| s_0003 | expert_p1 | true | none | false | — |
아래 Zod 스키마에 맞는 expert_labels 40 세션 × 평가자 3(p1/p2/self) = 120 행 JSON 배열로 생성.
{"type":"object","properties":{"session_id":{"type":"string"},"evaluator":{"type":"string","enum":["expert_p1","expert_p2","self"]},"valid":{"type":"boolean"},"weak_link":{"type":"string","enum":["none","no_evidence","logic_leap","rebuttal_dodge"]},"overclaim":{"type":"boolean"},"note":{"type":["string","null"]}},"required":["session_id","evaluator","valid","weak_link","overclaim","note"]}
조건: 평가자 간 valid 일치 70% 내외, 불일치 시 note 에 사유, overclaim=true 10% 내외, weak_link 분포 자연스럽게. JSON 배열만.{"type":"object","properties":{"session_id":{"type":"string"},"evaluator":{"type":"string","enum":["expert_p1","expert_p2","self"]},"valid":{"type":"boolean"},"weak_link":{"type":"string","enum":["none","no_evidence","logic_leap","rebuttal_dodge"]},"overclaim":{"type":"boolean"},"note":{"type":["string","null"]}},"required":["session_id","evaluator","valid","weak_link","overclaim","note"]}| Python | ingest 파이프라인(논증 로그 → PostgreSQL upsert), LLM eval 스크립트(Cohen’s κ / Brier score 계산) |
| Django | 채점 API(`POST /evaluate`: 논증 입력 → 채점 스키마 반환) + 일일 리포트 봇 |
| PostgreSQL | argument_logs / rubric_master / expert_labels 단일 진실원 + 뷰(`v_daily_score`) |
| Redis | 채점 큐 + 동일 논증 재요청 캐시(중복 LLM 호출 절감) |
| AWS | 리포트 봇 워커 + 채점 API 배포(컨테이너) |
| GCP | 백업 추론 엔드포인트(AWS 장애 시 폴백) |
✓ pass → 그대로 멈춰도 완결입니다. 더 키우고 싶으면 2주차(채점이 전문가와 맞는지 확인)로 진행합니다.
✓ pass → 여기서 멈춰도 완결입니다. 더 키우면 3주차(학습자별 약점 추적)로 진행합니다.
1) 논증별 채점 카드(축별 점수·근거 인용·완곡 표현), 2) 약한 고리 Top3, 3) 다음 훈련 과제 3건. 채점→교정 한 주기를 한 스키마에 담음.
{"type":"object","properties":{"session_id":{"type":"string"},"scores":{"type":"array","items":{"type":"object","properties":{"axis":{"type":"string","enum":["claim_clarity","evidence_strength","rebuttal_handling"]},"value":{"type":"number","minimum":0,"maximum":3},"cited_span":{"type":["string","null"]}},"required":["axis","value","cited_span"]}},"weak_links":{"type":"array","items":{"type":"object","properties":{"type":{"type":"string","enum":["no_evidence","logic_leap","rebuttal_dodge"]},"why":{"type":"string","minLength":12}},"required":["type","why"]},"maximum":3},"next_tasks":{"type":"array","items":{"type":"object","properties":{"task":{"type":"string","minLength":10},"target_axis":{"type":"string","enum":["claim_clarity","evidence_strength","rebuttal_handling"]},"confidence":{"type":"string","enum":["low","mid","high"]}},"required":["task","target_axis","confidence"]}},"hedge":{"type":["string","null"],"minLength":8}},"required":["session_id","scores","weak_links","next_tasks","hedge"]}[
{
"session_id": "s_0002",
"scores": [
{
"axis": "claim_clarity",
"value": 2,
"cited_span": "AI 감시는 안전을 높인다"
},
{
"axis": "evidence_strength",
"value": 0,
"cited_span": null
},
{
"axis": "rebuttal_handling",
"value": 0,
"cited_span": null
}
],
"weak_links": [
{
"type": "no_evidence",
"why": "주장만 있고 근거 인용이 전혀 없음"
},
{
"type": "rebuttal_dodge",
"why": "예상 반론(사생활)을 다루지 않음"
}
],
"next_tasks": [
{
"task": "통계 출처 1개를 찾아 근거로 붙이기",
"target_axis": "evidence_strength",
"confidence": "high"
},
{
"task": "사생활 침해 반론을 한 문장으로 반박",
"target_axis": "rebuttal_handling",
"confidence": "mid"
},
{
"task": "주장을 조건부로 좁혀 재서술",
"target_axis": "claim_clarity",
"confidence": "mid"
}
],
"hedge": "근거 부재는 명확하나, 반론 회피 판정은 주제 난이도에 따라 후속 검증 필요."
},
{
"session_id": "s_0003",
"scores": [
{
"axis": "claim_clarity",
"value": 3,
"cited_span": "최저임금 인상은 고용을 줄인다"
},
{
"axis": "evidence_strength",
"value": 2,
"cited_span": "OECD 보고 인용"
},
{
"axis": "rebuttal_handling",
"value": 2,
"cited_span": "수요 효과 반론"
}
],
"weak_links": [
{
"type": "logic_leap",
"why": "OECD 평균을 한국 사례로 바로 일반화"
}
],
"next_tasks": [
{
"task": "한국 데이터로 근거 교체하거나 범위 한정",
"target_axis": "evidence_strength",
"confidence": "high"
},
{
"task": "수요 효과 반론에 수치로 재반박",
"target_axis": "rebuttal_handling",
"confidence": "mid"
},
{
"task": "주장에 기간·업종 조건 추가",
"target_axis": "claim_clarity",
"confidence": "low"
}
],
"hedge": "채점자 간 valid 판정이 갈린 사례 — 일반화 비약 여부는 표본 더 필요."
},
{
"session_id": "s_0010",
"scores": [
{
"axis": "claim_clarity",
"value": 1,
"cited_span": "AI는 일자리를 늘린다"
},
{
"axis": "evidence_strength",
"value": 0,
"cited_span": null
},
{
"axis": "rebuttal_handling",
"value": 0,
"cited_span": null
}
],
"weak_links": [
{
"type": "no_evidence",
"why": "근거 칸이 비어 있음"
}
],
"next_tasks": [
{
"task": "최근 고용 통계 1건을 근거로 추가",
"target_axis": "evidence_strength",
"confidence": "high"
},
{
"task": "자동화로 줄어드는 일자리 반론 작성",
"target_axis": "rebuttal_handling",
"confidence": "high"
},
{
"task": "‘어떤 직군에서’ 로 주장 구체화",
"target_axis": "claim_clarity",
"confidence": "mid"
}
],
"hedge": null
}
]자동: (1) Zod parse, (2) cited_span 이 입력 논증의 실제 substring, (3) 근거 단정 토큰 검출 + LLM-as-judge 의미 평가, (4) 전문가 라벨과 valid 일치율 자동 계산. 수동: 외부 평가자 2명 비동기 라벨 → bootstrap Cohen’s κ CI 하한 ≥ 0.6, judge 인간 spot check 5%.
근거: 고도의 소크라테스식 논리학과 LLM을 결합하여, 실제로 사고하고 토론하며 가르칠 수 있는 AI