책임 있는 AI 쉽게 이해하기: 공정성·편향·설명 가능성·모델 카드·AI 거버넌스

책임 있는 AI의 원칙

여러 나라 정부와 국제기구, AI를 만드는 회사들이 저마다 AI 원칙을 발표했습니다. 이름과 개수는 조금씩 다르지만 담긴 내용은 거의 같습니다. 아래 그림에서 원칙을 하나씩 골라, 그 원칙이 깨지면 어떤 일이 생기는지 보세요.

좌우로 끌어서 돌려 볼 수 있습니다

원칙

여섯 원칙이 함께 받쳐야 믿을 수 있는 AI가 된다

공정성: 비슷한 조건의 사람을 다르게 대하지 않는다. 이 원칙이 깨진 예 — 같은 경력인데 특정 성별 지원자의 점수가 낮게 나온다.

원칙	뜻
공정성	비슷한 조건의 사람을 성별·나이·지역 같은 집단에 따라 다르게 대하지 않는다
신뢰성·안전	여러 조건에서 예상대로 안정적으로 작동하고(견고성), 해를 끼치지 않는다
개인정보·보안	데이터를 보호하고, 동의받은 범위 안에서만 쓴다
포용성	장애·나이·언어·지역과 상관없이 누구나 쓸 수 있다
투명성	AI를 쓴다는 사실과 어떻게 판단하는지를 알린다 (설명 가능성 포함)
책임성	결과에 책임지는 사람과 이의 제기·바로잡는 절차가 있다

원칙은 선언만으로는 지켜지지 않습니다. 이 글의 나머지 장은 원칙마다 실제로 무엇을 재고 무엇을 만드는지를 다룹니다.

문제에 이런 표현이 나오면 → 이렇게 고른다

가장 자주 문제가 되는 것이 공정성입니다. AI는 왜 특정 집단을 불리하게 대할까요?

AI가 일부러 차별하는 일은 없습니다. 대부분의 편향은 데이터에서 옵니다. 모델은 보여 준 데이터에서 배우기 때문에, 데이터가 한쪽으로 쏠려 있으면 결과도 쏠립니다. 아래 그림은 음성 인식 모델의 학습 데이터 양과 말투별 오류율입니다.

좌우로 끌어서 돌려 볼 수 있습니다

음성 인식 모델 — 학습 데이터 양과 말투별 오류율 (예시)

사투리 녹음이 학습 데이터의 10%뿐이라, 사투리를 쓰는 사람은 네 번에 한 번꼴(22%)로 못 알아듣습니다. 모델이 일부러 차별한 게 아니라 데이터가 한쪽에 쏠렸기 때문입니다.

성별·나이·지역 같은 민감한 정보를 입력에서 빼는 것만으로는 편향이 사라지지 않습니다. 다른 특성이 그 정보를 대신 담고 있기 때문입니다. 그래서 결과를 집단별로 나눠 실제로 재 봐야 합니다.

문제에 이런 표현이 나오면 → 이렇게 고른다

그렇다면 모델이 공정한지는 어떻게 숫자로 확인할까요?

Pro 전용

나머지 5개 장은 Pro 구독자에게 열려 있어요. 장마다 3D 그림과 "문제에 이런 표현이 나오면" 정리가 이어지고, 마지막 장에서는 직접 풀어 보며 확인합니다.

PasslyExam

PasslyExam은 자격증 시험 범위에 맞춰 만든 오리지널 연습문제와 해설, 실전 모의고사를 제공합니다. 왜 그 보기가 정답이고 비슷한 보기는 왜 틀리는지까지 해설로 짚습니다. 가입하면 매일 무료로 연습문제를 풀 수 있습니다.

이 개념이 나오는 시험