② 인간의 판단이 필요한 세 가지 영역

기준, 예외, 그리고 책임

자동화는 결정 구조를 단순하게 만든다.
입력과 출력, 조건과 결과.
그러나 현실의 판단은 결코 그렇게 깔끔하지 않다.

AI가 아무리 정교해져도
인간의 판단이 반드시 남아야 할 영역은 명확하다.
크게 세 가지다.

첫째, 기준 설정.
무엇이 좋은 결과인가를 정의하는 일이다.
수익률인가, 안정성인가, 지속성인가.
AI는 주어진 기준을 최적화할 뿐,
그 기준이 옳은지는 판단하지 않는다.

둘째, 예외 인식.
데이터는 과거를 설명한다.
그러나 위기, 전환기, 구조 변화는
항상 데이터의 바깥에서 시작된다.
예외를 예외로 인식하는 능력은
통계가 아니라 통찰의 영역이다.

셋째, 책임 귀속.
이 결정의 결과를 누가 감당하는가.
AI는 결과를 계산하지만
결과에 대한 책임은 계산하지 않는다.
책임이 없는 판단은 판단이 아니다.

자동화는 이 세 가지를 가장 먼저 제거하려 한다.
왜냐하면 가장 어렵고, 가장 느리고,
가장 부담스러운 영역이기 때문이다.

그러나 판단이란
기준을 세우고, 예외를 감지하며,
결과를 감당하겠다고 선언하는 행위다.

기술은 결정을 만든다.
인간은 판단을 만든다.

이 구분을 잊는 순간,
우리는 자동화의 사용자에서
자동화의 종속자로 이동하게 된다.