심리학자 알아보기 9 ｜B. F. 스키너, 보상과 처벌은 행동을 어떻게 바꿀까?

B. F. 스키너의 조작적 조건형성과 스키너 상자, 강화·처벌의 차이, 강화계획, 스마트폰 습관과 토큰경제의 원리를 쉽게 알아봅니다.

 

운동을 마친 날 달력에 스티커를 붙였더니 운동을 더 꾸준히 하게 됐습니다. 반대로 스마트폰을 확인했을 때 가끔 흥미로운 메시지가 도착해 있으면, 알림이 없어도 습관처럼 화면을 켜게 됩니다. 두 행동은 전혀 달라 보이지만 공통점이 있습니다. 어떤 행동 뒤에 나타난 결과가 그 행동의 반복 가능성을 바꿨다는 점입니다. 내가 반복하는 행동은 정말 의지의 결과일까요? 아니면 나도 모르게 그 행동을 강화하는 결과가 주변에 배치되어 있는 것은 아닐까요?

 

미국 심리학자 버러스 프레더릭 스키너(Burrhus Frederic Skinner, 1904~1990)는 이 원리를 조작적 조건형성이라는 개념으로 체계화했습니다. 그는 인간과 동물의 행동이 단순히 앞에서 제시된 자극에 반응하는 것만이 아니라, 행동 이후에 따라오는 결과에 따라 선택되고 변화한다고 보았습니다.

 

이번 글에서는 B. F. 스키너의 생애와 조작적 조건형성, 정적 강화와 부적 강화, 처벌, 강화계획, 행동형성, 토큰경제를 살펴보겠습니다. 운동과 공부, 미루기, 스마트폰 사용 습관을 분석하는 방법도 함께 알아보겠습니다.

조작적 조건형성이란 무엇인가

조작적 조건형성(operant conditioning)은 행동 뒤에 나타나는 결과에 따라 그 행동이 앞으로 증가하거나 감소하는 학습 과정입니다.

여기서 ‘조작적’이라는 말은 사람이 자신의 환경에 어떤 행동을 가하고, 그 결과를 경험한다는 뜻으로 이해하면 쉽습니다.

예를 들어 아이가 방을 정리한 뒤 부모에게 칭찬을 받았고, 이후 정리하는 횟수가 늘었다면 칭찬이 정리 행동을 강화한 것입니다. 직장인이 어려운 업무를 미뤘더니 순간적으로 불안이 줄어들어 다음에도 미루게 됐다면, 불안 감소가 미루기 행동을 강화한 셈입니다.

조작적 조건형성의 기본 흐름은 다음과 같습니다.

상황 또는 단서 → 행동 → 결과 → 이후 행동 가능성의 변화

 

중요한 것은 결과가 좋은지 나쁜지가 아닙니다. 그 결과가 실제로 행동을 늘렸는지, 줄였는지가 판단 기준입니다.

파블로프의 조건형성과 무엇이 다른가

심리학자 알아보기 7｜이반 파블로프, 몸과 감정은 어떻게 조건화될까

고전적 조건형성과 조작적 조건형성은 모두 학습을 설명하지만, 초점을 두는 위치가 다릅니다.

구분	고전적 조건형성	조작적 조건형성
대표 학자	이반 파블로프, 존 왓슨	에드워드 손다이크, B. F. 스키너
핵심 연결	자극과 자극의 연결	행동과 결과의 연결
대표 반응	침 분비, 놀람, 공포 등	공부, 정리, 버튼 누르기 등
행동의 성격	비교적 자동적인 반응	환경에 영향을 주는 행동
일상 사례	병원 냄새만 맡아도 긴장함	숙제를 마친 뒤 칭찬받아 숙제가 늘어남

 

예를 들어 개에게 물린 뒤 개를 보기만 해도 불안해진 것은 고전적 조건형성으로 설명할 수 있습니다. 개가 있는 길을 피했더니 불안이 줄고, 그 뒤로 계속 그 길을 피하게 되는 현상은 조작적 조건형성으로 설명할 수 있습니다.

실제 인간의 행동에서는 두 학습 과정이 함께 작동하는 경우가 많습니다.

스키너는 어떤 심리학자였나

스키너는 1904년 미국 펜실베이니아주에서 태어났습니다. 처음에는 작가가 되려고 했지만 문학 활동에서 뚜렷한 방향을 찾지 못한 뒤 인간 행동을 과학적으로 연구하는 길에 관심을 갖게 됐습니다.

하버드대학교에서 심리학을 공부한 그는 존 왓슨의 행동주의와 에드워드 손다이크의 효과의 법칙에 영향을 받았습니다. 하지만 왓슨이 주로 자극과 반응의 연결을 강조했다면, 스키너는 행동 뒤에 나타나는 결과가 행동을 선택하고 유지하는 과정을 더 정밀하게 연구했습니다.

1938년에 출간한 《유기체의 행동》에서는 조작적 행동과 실험 결과를 체계적으로 제시했습니다. 이후 《과학과 인간 행동》, 《자유와 존엄을 넘어서》 등의 저서를 통해 학습 원리를 교육과 사회 문제까지 확장했습니다.

스키너의 목표는 누군가를 마음대로 조종하는 방법을 만드는 것이 아니었습니다. 그는 행동이 환경의 영향을 받는다면 그 관계를 정확히 분석함으로써 교육, 치료, 사회 제도를 더 효과적으로 설계할 수 있다고 생각했습니다.

그러나 인간의 자유와 내면 경험을 지나치게 축소하고, 행동의 ‘통제’를 정당화할 위험이 있다는 비판도 받았습니다.

스키너 상자는 무엇을 알아보기 위한 장치였나

흔히 스키너 상자라고 불리는 장치의 정식 명칭은 조작적 조건형성 상자입니다. 쥐나 비둘기의 행동을 일정한 환경에서 관찰하기 위해 고안됐습니다.

상자 안에는 다음과 같은 장치가 설치될 수 있었습니다.

• 쥐가 누를 수 있는 레버
• 비둘기가 쪼을 수 있는 원판
• 먹이를 제공하는 장치
• 빛이나 소리를 제시하는 장치
• 반응 횟수와 시간을 자동으로 기록하는 장치

예를 들어 쥐가 우연히 레버를 눌렀을 때 먹이가 나오면, 시간이 지나면서 레버를 누르는 행동이 증가할 수 있습니다. 연구자는 먹이를 주는 시점과 횟수를 바꾸면서 행동이 얼마나 빠르게 학습되고 얼마나 오래 유지되는지 측정했습니다.

스키너 상자는 단순히 동물을 가두고 벌을 주는 장치가 아닙니다. 핵심은 행동과 결과 사이의 관계를 정밀하게 통제하고 기록하는 실험 환경이라는 데 있습니다.

이 연구를 통해 스키너는 행동의 빈도뿐 아니라 행동 속도, 행동 사이의 간격, 강화가 중단된 뒤 행동이 사라지는 과정까지 분석했습니다.

강화와 처벌을 정확히 구분해보자

조작적 조건형성에서 가장 많이 혼동하는 개념이 강화와 처벌입니다.

• 강화는 행동을 증가시킵니다.
• 처벌은 행동을 감소시킵니다.
• 정적은 무엇인가를 더한다는 뜻입니다.
• 부적은 무엇인가를 제거한다는 뜻입니다.

여기서 정적은 ‘좋다’, 부적은 ‘나쁘다’라는 의미가 아닙니다. 더하기와 빼기에 가까운 용어입니다.

구분	행동 뒤의 변화	행동에 미치는 효과	사례
정적 강화	원하는 자극을 더함	행동 증가	공부 후 칭찬이나 보상을 받음
부적 강화	불편한 자극을 제거함	행동 증가	안전벨트를 매자 경고음이 멈춤
정적 처벌	불편한 자극을 더함	행동 감소	규칙 위반 후 꾸중을 들음
부적 처벌	원하는 자극을 제거함	행동 감소	약속 위반 후 게임 시간을 제한함

정적 강화는 보상을 더하는 것

운동을 마친 뒤 좋아하는 음악을 듣거나, 아이가 장난감을 정리했을 때 구체적으로 칭찬해 정리 행동이 늘었다면 정적 강화입니다.

그러나 칭찬했다고 해서 무조건 강화가 되는 것은 아닙니다. 칭찬받는 것을 부담스러워하는 사람이 오히려 그 행동을 줄였다면, 그 사람에게 해당 칭찬은 강화물로 작용하지 않은 것입니다.

강화물은 제공자의 의도가 아니라 실제 행동 변화로 판단합니다.

부적 강화는 벌이 아니다

부적 강화는 불쾌한 자극이 사라짐으로써 행동이 증가하는 과정입니다.

자동차에서 안전벨트를 매면 경고음이 멈춥니다. 경고음의 제거가 안전벨트 착용 행동을 증가시킨다면 부적 강화입니다.

미루기도 부적 강화로 유지될 수 있습니다. 부담스러운 일을 미루면 당장의 불안이 줄어듭니다. 이 안도감 때문에 다음에도 미루게 되는 것이죠. 즉, 미루기를 좋아해서가 아니라 불편한 감정을 빠르게 없애주는 기능 때문에 행동이 반복될 수 있습니다.

처벌은 행동을 줄이는 결과

처벌은 특정 행동의 빈도를 낮추는 결과입니다. 하지만 처벌이 행동의 원인을 해결하거나 바람직한 대안을 가르쳐주는 것은 아닙니다.

아이가 소리를 질렀을 때 크게 혼나서 부모 앞에서는 조용해질 수 있습니다. 그렇다고 화를 표현하는 적절한 방법을 배운 것은 아닙니다. 처벌하는 사람이 없을 때 다시 소리를 지르거나, 행동을 숨기거나, 처벌자를 피할 가능성도 있습니다.

처벌의 한계

처벌은 행동을 일시적으로 억제할 수 있지만 무엇을 대신 해야 하는지는 알려주지 않습니다. 가능한 경우에는 문제행동의 기능을 확인하고, 대체 행동을 가르친 뒤 그 행동을 강화하는 접근이 필요합니다.

보상은 언제 주느냐에 따라 효과가 달라진다

스키너와 찰스 퍼스터는 강화가 제공되는 규칙을 강화계획이라고 불렀습니다. 두 연구자가 1957년에 출간한 《강화계획》은 강화의 빈도와 시점에 따라 행동 패턴이 달라진다는 사실을 체계적으로 보여주었습니다. 

연속 강화

행동이 나타날 때마다 강화물을 제공합니다.

예를 들어 아이가 정리할 때마다 칭찬하거나, 새로운 기계를 올바르게 조작할 때마다 성공 표시가 나타나는 방식입니다. 새로운 행동을 빠르게 가르치는 데 유리하지만, 강화가 사라지면 행동도 비교적 빨리 줄어들 수 있습니다.

고정비율 강화

정해진 횟수만큼 행동한 뒤 강화합니다.

예를 들어 문제 10개를 풀 때마다 짧은 휴식을 갖는 방식입니다. 행동량을 늘리기 쉽지만 보상을 받은 직후 잠시 쉬는 패턴이 나타날 수 있습니다.

변동비율 강화

몇 번의 행동 뒤에 강화가 나타날지 일정하지 않습니다.

복권, 일부 게임 보상, 예측하기 어려운 SNS 반응이 자주 비유됩니다. 보상 시점을 알 수 없으므로 행동이 비교적 꾸준히 이어지고, 강화가 잠시 나타나지 않아도 행동이 쉽게 사라지지 않을 수 있습니다.

다만 스마트폰이나 게임 사용을 오직 변동비율 강화 하나로 설명해서는 안 됩니다. 사회적 연결 욕구, 무료함 회피, 습관, 알림, 개인의 충동성, 앱 디자인 등 여러 요인이 함께 작용합니다.

고정간격 강화

정해진 시간이 지난 뒤 나타난 첫 행동을 강화합니다.

시험 날짜가 정해져 있을 때 시험 직전에 공부량이 급격히 늘어나는 모습이 대표적인 예입니다. 마감이 멀 때는 행동이 적다가 마감이 가까워질수록 행동이 증가할 수 있습니다.

변동간격 강화

시간 간격이 일정하지 않은 상태에서 나타난 행동을 강화합니다.

상사가 언제 업무를 확인할지 모르는 상황이나, 예측할 수 없는 시간에 중요한 메시지가 도착하는 상황을 예로 들 수 있습니다. 비교적 꾸준한 확인 행동이 나타날 수 있습니다.

강화 계획	기준	행동 특징	일상 사례
연속 강화	매 행동	빠르게 학습됨	초기 습관을 매번 기록함
고정비율	정해진 횟수	높은 반응 후 잠깐 멈춤	10개 완료 후 휴식
변동비율	불규칙한 횟수	꾸준하고 소거에 강함	예측하기 어려운 게임 보상
고정간격	정해진 시간	시점이 가까워질수록 증가	시험 직전 공부
변동간격	불규칙한 시간	비교적 꾸준한 반응	수시로 오는 중요한 메시지 확인

행동형성은 작은 성공을 연결하는 방법이다

처음부터 완성된 행동을 요구하면 실패하기 쉽습니다. 스키너는 최종 목표에 가까워지는 작은 행동을 단계별로 강화하는 행동형성(shaping)을 연구했습니다.

운동 습관을 만들고 싶지만 현재 거의 움직이지 않는 사람에게 처음부터 매일 1시간 운동을 요구하면 시작조차 어려울 수 있습니다. 행동형성은 다음처럼 접근합니다.

1. 운동복을 꺼내놓습니다.
2. 운동복을 입고 5분간 걷습니다.
3. 걷는 시간을 10분으로 늘립니다.
4. 주 3회 반복합니다.
5. 안정되면 운동의 시간과 강도를 조금씩 높입니다.

각 단계에서 성공 경험을 제공하고, 행동이 안정되면 다음 기준으로 이동합니다. 쉬운 목표에 계속 머무르는 것이 아니라 지금 가능한 행동과 최종 목표 사이에 다리를 놓는 방식입니다.

토큰경제는 어떻게 행동을 바꾸나

토큰경제(token economy)는 바람직한 행동을 했을 때 스티커, 점수, 칩과 같은 토큰을 제공하고, 모은 토큰을 다른 보상이나 활동과 교환하게 하는 행동중재 방법입니다.

예를 들어 아이가 스스로 양치하면 별 스티커를 받고, 별 5개를 모으면 원하는 놀이를 선택할 수 있습니다. 토큰 자체에는 처음부터 큰 가치가 없지만 여러 보상과 연결되면서 조건 강화물의 기능을 갖게 됩니다.

토큰경제는 교육, 정신건강 재활, 병원, 가정의 행동 관리 등에서 활용돼 왔습니다. 최근 문헌에서도 토큰경제는 목표 행동을 명확히 정하고 즉각적인 피드백을 제공할 수 있는 유연한 강화 기반 중재로 설명됩니다. 다만 효과를 유지하려면 보상을 갑자기 끊기보다 자연스러운 보상과 자기조절로 점진적으로 전환해야 합니다.

 

토큰경제를 사용할 때는 다음 원칙이 중요합니다.

• 목표 행동을 구체적으로 정합니다.
• 행동 직후 토큰을 제공합니다.
• 규칙을 예측 가능하게 유지합니다.
• 얻은 토큰을 임의로 빼앗지 않습니다.
• 개인에게 실제로 의미 있는 보상을 선택합니다.
• 통제나 굴욕을 주는 방식으로 사용하지 않습니다.
• 외적 보상을 자연스러운 성취감과 일상적 결과로 점차 전환합니다.

스마트폰은 정말 스키너 상자와 같을까

스마트폰 앱을 ‘주머니 속 스키너 상자’라고 표현하는 경우가 많습니다. 완전히 틀린 비유는 아니지만, 과학적으로는 신중하게 사용할 필요가 있습니다.

메신저나 SNS를 확인했을 때 항상 흥미로운 콘텐츠가 나오는 것은 아닙니다. 때로는 중요한 연락, 재미있는 영상, 좋아요나 댓글이 나타납니다. 이렇게 예측하기 어려운 결과는 확인 행동을 유지하는 요인 중 하나가 될 수 있습니다.

그러나 스마트폰 확인은 단순한 보상반응만이 아닙니다.

• 다른 사람과 연결되고 싶은 욕구
• 중요한 정보를 놓칠지 모른다는 걱정
• 지루함이나 불편한 감정에서 벗어나려는 행동
• 알림과 화면 배치 같은 환경적 단서
• 이미 자동화된 손동작과 습관
• 업무와 생활에 실제로 필요한 사용

현대 연구에서도 스마트폰의 반복 확인 행동을 보상뿐 아니라 사회적 기대와 연결 욕구, 습관이 결합된 현상으로 설명합니다. 따라서 과도한 스마트폰 사용을 단순히 의지 부족이나 ‘도파민 중독’으로 낙인찍는 설명은 피하는 것이 좋습니다.

운동과 공부에 조작적 조건형성을 적용해보자

조작적 조건형성은 다른 사람을 통제하는 기술이 아니라 자신의 환경을 정비하는 도구로도 사용할 수 있습니다.

1단계: 목표 행동을 눈에 보이게 정의하기

“열심히 공부한다”는 측정하기 어렵습니다. 다음처럼 바꿉니다.

• 오후 8시에 책상에 앉기
• 교재 두 쪽 읽기
• 문제 5개 풀기
• 공부한 내용을 세 문장으로 정리하기

2단계: 행동 직후 작은 강화를 배치하기

행동과 결과의 간격이 너무 길면 연결을 학습하기 어렵습니다.

• 완료 표시하기
• 달력에 스티커 붙이기
• 좋아하는 차 마시기
• 짧은 휴식 갖기
• 진행률을 그래프로 확인하기

보상은 비싸거나 거창할 필요가 없습니다. 행동 직후 “완료했다”는 사실을 분명하게 인식시키는 피드백도 도움이 됩니다.

3단계: 처음에는 자주 강화하기

새로운 습관을 시작할 때는 작은 성공을 자주 확인합니다. 행동이 안정된 뒤에는 매번 보상하지 않고 간격을 늘리면서 활동 자체의 자연스러운 결과로 옮겨갑니다.

운동 후 몸이 개운해지는 경험, 공부한 내용을 실제로 설명할 수 있는 경험이 자연스러운 강화물이 될 수 있습니다.

4단계: 문제행동이 얻는 결과를 찾기

미루기를 없애려고 자신을 비난하기 전에 미루기가 어떤 기능을 하는지 살펴봅니다.

문제 행동	즉각적인 결과	유지되는 이유
업무 미루기	부담과 불안 감소	부적 강화
SNS 확인	가끔 흥미로운 정보 발견	간헐적 강화 가능성
야식 먹기	지루함과 스트레스 완화	정서적 보상
운동 건너뛰기	피로와 불편 회피	즉각적인 안도감

문제행동을 줄이려면 그 행동이 제공하던 기능을 대체할 방법도 마련해야 합니다. 미루기가 불안을 낮춰줬다면 업무를 5분 단위로 나누거나, 도움을 요청하거나, 시작 기준을 낮추는 대체 행동이 필요합니다.

5단계: 환경을 먼저 바꾸기

의지로 계속 참기보다 행동의 단서와 결과를 조정합니다.

• 스마트폰을 손이 닿지 않는 곳에 둡니다.
• 알림을 필요한 앱만 남깁니다.
• 운동복을 전날 보이는 곳에 둡니다.
• 해야 할 일을 첫 동작까지 구체화합니다.
• 시작한 직후 확인할 수 있는 기록표를 만듭니다.

좋은 습관에는 시작하기 쉬운 단서와 빠른 피드백을 제공하고, 줄이고 싶은 습관에는 약간의 마찰을 추가하는 것이 핵심입니다.

보상이 오히려 역효과를 낼 수도 있다

모든 행동에 보상을 붙이는 것이 정답은 아닙니다. 원래 즐기던 활동을 오직 점수나 상품을 얻기 위한 행동으로 만들면 활동 자체의 의미가 약해질 수 있습니다.

또한 보상이 지나치게 크면 다음과 같은 문제가 생길 수 있습니다.

• 보상이 없으면 행동하지 않게 됩니다.
• 쉬운 성과만 선택할 수 있습니다.
• 결과를 조작하거나 규칙의 빈틈을 찾을 수 있습니다.
• 자율성과 선택권이 약해질 수 있습니다.
• 행동의 의미보다 점수에 집착할 수 있습니다.

따라서 보상은 사람을 매수하는 수단이 아니라 새로운 행동의 시작을 돕고 진행 상황을 알려주는 임시 발판으로 사용하는 편이 좋습니다.

행동이 갑자기 심해지는 소거폭발

강화되던 행동에 더 이상 강화가 제공되지 않으면 행동이 점차 감소할 수 있습니다. 이를 소거라고 합니다.

그런데 행동이 바로 줄어들지 않고 잠시 더 강하고 빈번해질 때가 있습니다. 이를 소거폭발이라고 합니다.

예를 들어 아이가 울 때마다 장난감을 받다가 어느 날부터 받지 못하면 처음에는 더 크게 울 수 있습니다. 엘리베이터 버튼을 눌렀는데 반응이 없으면 평소보다 여러 번 누르는 행동도 비슷한 원리로 이해할 수 있습니다.

다만 실제 인간 행동이 갑자기 심해졌다고 해서 무조건 소거폭발이라고 단정해서는 안 됩니다. 상황 변화, 감정, 의사소통의 어려움, 신체 상태 등 다른 원인도 살펴야 합니다.

스키너의 이론을 현대 심리학은 어떻게 평가하나

평가	내용
현재도 근거가 강한 부분	행동이 결과와 강화계획의 영향을 받는다는 원리
중요한 학문적 공헌	행동을 반복 측정하고 환경과의 관계를 실험적으로 분석함
실생활에 남은 영향	행동치료, 교육, 습관 형성, 토큰경제, 행동활성화
수정된 부분	학습에는 기대, 목표, 주의, 기억과 같은 인지 과정도 관여함
과소평가한 부분	생물학적 제약, 감정, 자율성, 사회문화적 맥락
주의해야 할 부분	행동의 예측과 통제가 강압이나 조작으로 사용될 가능성

 

현대 신경과학의 강화학습 연구는 행동 결과와 예측의 차이가 이후 선택에 영향을 줄 수 있음을 보여줍니다. 하지만 이것이 스키너의 이론을 그대로 뇌에서 발견했다는 뜻은 아닙니다. 현대 연구는 행동 관찰뿐 아니라 기대, 가치 판단, 신경계의 작용까지 함께 분석합니다.

스키너의 설명은 단순하지만 강력합니다. 동시에 인간의 사랑, 가치, 창의성, 윤리적 판단을 행동의 결과만으로 완전히 설명하기는 어렵습니다. 현대 심리학에서는 학습 원리를 생물학적·인지적·사회문화적 관점과 통합해 이해합니다.

 

스키너의 조작적 조건형성은 우리가 왜 같은 행동을 반복하는지 현실적으로 보여줍니다. 장기적으로 해로운 행동도 당장 불안을 줄이거나 가끔 강한 즐거움을 제공하면 계속될 수 있습니다. 반대로 장기적으로 유익한 행동은 결과가 너무 늦게 나타나기 때문에 시작하기 어렵습니다.

 

따라서 행동을 바꾸고 싶다면 “왜 나는 의지가 약할까?”라고 자책하기보다 이 행동 직후 어떤 결과가 나타나는가를 먼저 질문해보세요. 원하는 행동은 더 쉽게 시작하고 빠르게 확인할 수 있게 만들고, 줄이고 싶은 행동은 단서와 보상 구조를 조정하는 것이 실질적인 출발점입니다.

 

스키너는 행동이 결과에 의해 선택된다는 원리를 체계화했습니다. 하지만 그보다 앞서 고양이가 퍼즐 상자에서 시행착오를 거듭하는 모습을 관찰하며 ‘만족스러운 결과를 낳은 행동은 반복된다’는 효과의 법칙을 제시한 학자가 있었습니다. 다음 편에서는 조작적 조건형성의 토대를 마련한 에드워드 손다이크를 살펴보겠습니다.