[진짜 수학,AI 2편] AI가 헛소리할 때, 미분 수학으로 참교육하는 이유 (KAIST 전자및전기공학부 김정호 교수) > YOUTUBE

본문 바로가기

YOUTUBE

[진짜 수학,AI 2편] AI가 헛소리할 때, 미분 수학으로 참교육하는 이유 (KAIST 전자및전기공학부 김정호 교수)

profile_image
컨텐츠
| 댓글 0 | 조회 9

본문

YouTube 영상 원본 보기
[AI로 영상을 요약한 내용입니다]

내용 요약
(00:00) AI는 “너 좀 틀렸어” 같은 모호한 피드백을 이해 못하므로, 인간의 의도를 AI가 처리할 수 있게 수학(특히 미분) 으로 “얼마나/어느 방향으로”를 수치화해 전달한다고 설명.
(00:46) “미분·적분은 사회에서 쓸모없다”는 질문에 대해, 실제로는 AI 학습의 핵심 원리로 쓰이고 있으며 인공지능과 인간이 대화하는 프로토콜이 수학이라는 관점을 제시.
(02:42) 오늘은 정답을 따라 학습하는 지도학습을 중심으로, 그 핵심이 고등학교 미분(기울기) 이라는 점을 쉬운 직관으로 풀어보겠다고 선언.
(06:29) 트랜스포머 추론 구조(인코더/디코더)와 KV 캐시를 소개하며, 멀티모달로 갈수록 입력 데이터가 커져 메모리(HBM 등) 수요가 폭증하고 성능·비용 문제가 커진다고 설명.
(10:57) 멀티모달은 텍스트·이미지·소리의 시간/논리 정합을 맞춰야 해서 난이도가 높고, 어긋나면 모달리티 갭·환각(홀루시네이션) 같은 문제가 생긴다고 언급.
(14:06) 최근 모델은 think(중간 추론 과정 노출), 검색/자료참조를 통한 응답 등으로 “읽고 생각하는 토큰”이 늘어 연산·메모리 부담이 더 커진다고 정리.
(17:13) AI가 논문·수식을 찾아 코드를 자동 작성(바이브 코딩) 하고, 연구·설계에서 메모리 배치(HBM/HBF 비율) 같은 의사결정을 돕는 사례를 들어 “AI도 수학을 잘한다”는 메시지 강화.
(30:34) 학습의 본질은 모델의 가중치 W를 정해가는 과정이며, 틀렸을 때 “어떤 W를 얼마나 고칠지”를 결정하려면 행렬(경로 추적) + 미분(기울기) 이 필요하다고 연결(=백프로퍼게이션).
(32:45) 오차를 함수로 만들고(예: MSE: 정답-예측 차이의 제곱), 기울기(미분값) 를 보고 “어느 방향으로, 얼마나” 이동할지 정하는 것이 학습(경사하강의 직관)이라고 설명.
(48:13) 정답이 없는 생성 문제에서는 엔트로피 같은 다른 손실/가치 함수를 써서 “더 명확하고 덜 혼란스러운 출력” 쪽으로 학습시키며, 결국 함수(손실)를 어떻게 설계하느냐가 성능을 좌우한다고 마무리.

언더스탠딩 문의: understanding.officialmail@gmail.com
글로 읽는 "언더스탠딩 텍스트". https://contents.premium.naver.com/backbriefing/news
언더스탠딩 멤버십 가입
https://www.youtube.com/channel/UCIUni4ScRp4mqPXsxy62L5w/join

YouTube에서 보기

관련링크