본문 바로가기
과신뷰/기자단 칼럼

해밀턴의 포괄적합도 이론과 도킨스의 이기적 유전자

by 과학과 신학의 대화 2022. 11. 11.

이 내용은 2022년 10월 12일에 있었던 2022 가을 카오스 강연(주제: 진화) 중

전중환 교수가 소개한 ‘유전자의 눈으로 본 진화-윌리엄 해밀턴의 포괄 적합도 이론’과

리처드 도킨스의 『이기적 유전자』, 프랜시스 콜린스의 『신의 언어』를

참고로 하여 작성한 글입니다.

 


 

 

리처드 도킨스가 종교를 해악으로 규정하고 무신론을 주장하기 위하여 쓴 책이 『만들어진 신』입니다. 그의 책의 이론적 근거는 그의 저서 『이기적 유전자』이며, 그가 유전자 수준에서 진화를 주장하게 된 근거는 윌리엄 해밀턴의 ‘포괄적합도 이론’을 따른 것입니다.

 

이 글에서는 이기적 유전자의 근거가 된 해밀턴의 포괄적합도 이론을 살펴보고, 도킨스가 이 이론을 어떻게 그의 책 『이기적 유전자』에서 활용했는지, 그리고 그가 무신론 주장의 이론으로 삼고 있는 ‘밈’ 이론과 그의 무신론 주장에 대한 프랜시스 콜린스의 비판을 요약했습니다.

 



1. 다윈은 적응이란 잘 번식하기 위하여 자연선택으로 일어나는 맹목적이고 기계적인 진화과정이라 했다.
이는 평생 낳는 자식 수를 높여주기 위해 진화적 변이가 다른 변이를 제치고 개체군 내 빈도를 높여가는 과정인 것이다. 환경적 자극에 인체가 반응하여 개체의 번식 성공도를 높이는 방향으로 진화한다고 했다.


2. 그렇다면 번식을 낮추는 개체의 이타적인 행동을 어떻게 설명할 것인가?
다윈은 곤충 군락의 불임성 일꾼 계급에 대하여 “내 이론 전체를 무너뜨릴 수 있는 특별한 어려움”이라고 했다. 예를 들어 일개미는 다 암컷임에도 자신은 자식을 낳지 못하고, 여왕개미가 낳은 알을 평생 돌보며 산다. 이런 게 찰스 다윈에게는 풀기 어려운 숙제였다. 자신의 번식 성공도를 낮추면서 남의 번식 성공도를 높이는 일이 어떻게 가능한가?

 


3. 이에 대하여 20세기 전반의 진화생물학자들은 ‘집단 선택론’을 내놓았다.
어떤 형질은 개체를, 또 다른 어떤 형질은 개체가 아닌 집단의 적합도를 높이도록 종종 선택된다. 개미를 보면 그렇게 보인다. 곤충은 자기 자신을 위해 살지 않고 그들의 일생은 자기가 속한 종의 생존에 바쳐진다. 그러므로 곤충은 그가 속한 개체군이나 종의 한 구성원으로 봐야 한다고 했다. 20세기 전반(1950년)에 생물학자 알프레드 에머슨(Alfred E. Emerson, 1896~1976)은 노화는 어른들이 젊은이들에게 자리를 내주게 하는 이로운 적응이라고 하며, 노화는 종의 이득을 위해 자연선택이 ‘설계한’ 적응이라고 집단선택적인 주장을 했다.

 


4. 그러나 1960년에 집단선택설에 대한 비판이 젊은 생물학자들 사이에 제기되었다.
조지 윌리엄스(George C. Williams, 1926~2010)는 집단 선택설은 틀렸다고 했다. 집단 내에 얌체(내부의 반란)가 일단 생기면, 남들의 노력을 착취해 번성한다. 하나의 이기주의자가 전체 이타주의자를 제치고 크게 번식하게 되는 것이다.  그러므로 종족보존의 본능이란 설명은 집단내의 선택이 더 강하기 때문에 틀린 말이라고 했다.


5. 집단의 이득을 높여주는 이타적 행동은 진화할 수 없다면, 이타적 행동을 어떻게 설명할 것인가?
사회진화를 연구하는 윌리엄 해밀턴(William D. Hamilton, 1936-2000)은 이타적 행동의 수리 모델을 연구하다 후대에 복제본을 많이 남기는 유전자가 세대를 거쳐 점차 흔해진다는 것을 발견했다. 그는 유전자의 관점에서 진화를 연구했다. “(이타적 행동을 일으키는) 유전자가 전파될지 여부를 결정하는 궁극적인 기준은 ‘그 행동이 개체 당사자에게 이로운가가 아니라 그 유전자에 이로운가’이다.”(해밀턴, 1963)


해밀턴은 개체의 사회적 행동에 영향을 끼치는 유전자가 마치 자기 후손을 많이 남기려고 궁리하는 것처럼, 일시적으로 지능을 허락하고 어느 정도 선택의 자유를 부여함으로써 논의를 좀 더 생생하게 했다. 그는 유전자의 관점에서 상대방의 몸속에 복제본이 들어있을 가능성이 있다면 자신이 희생하더라도 다른 개체의 몸 속에 있는 유전자가 더 많이 퍼트리는 방식으로 행동할 것으로 생각했다.


6. 해밀턴은 이러한 유전자의 행동방식을 수학적으로 계산하기 위하여 근연도(Degrees of Relatedness)라는 개념을 도입했다.
유전적으로 근연도란 개체군의 평균적 유사성에 비해 두 개체가 얼마나 ‘더’ 유사한지를 나타내는 척도다. 예를 들어 일란성 쌍둥이 사이에 유전적 근연도는 1이다. 아버지와 어머니로부터 각각 50%의 유전자를 받는 부모와 자식 사이의 유전자 근연도는 1/2이다. 친형제자매 사이도 감수분열에 의한 차이는 있지만, 마찬가지로 평균적으로 1/2이다. 조부모와 손자 사이에는 2x(1/2)² = 1/4이다. 사촌 사이는 2x(1/2)⁴ = 1/8이다.


(이번에 헌재에서 8촌 이내의 혈족에 대한 결혼금지법에 대하여 합헌판정을 내렸는데, 8촌 사이에 근연도는 이런 식으로 계산하면 1/128이 된다. 8촌 사이 정도가 되면 근연도로 유전병 확률을 따지는 것은 별문제가 안 될 거라고 생각된다.)


7. 이렇게 하여 해밀턴은 유전자의 이타적 행동 여부를 따지기 위하여 [해밀턴의 규칙 Hamilton's rule]을 만들었다.
[상대가 얻는 이득]에 [나와 상대와의 유전적 근연도]를 곱한 값이 [내가 감수하는 손실]보다 크면, 그 이타적 행동은 선택된다.

rB > C
- r: 근연도
- C: 이타적 행동을 하는 개체가 치러야 하는 비용(cost)
- B: 이타적 행동으로 이익을 보는 개체가 받는 이익(benefit)


여기서 -C는 행위자의 적합도에 직접적으로 끼친 영향이라 하여 직접 적합도라 한다. rB는 상대방의 적합도에 끼친 영향에 근연도를 곱한 것으로 간접 적합도가 된다. 포괄 적합도(rB-C)란 직접 적합도와 간접 적합도를 합한 것으로, rB-C가 0보다 커야 자손을 번식시킬 수 있다.


8. 해밀턴은 개체는 자신의 포괄 적합도(inclusive fitness)를 최대화하는 방향으로 행동한다고 했다.
고전적인 다윈 진화이론에서는 개체는 자신의 적합도를 높이는 방향으로 선택된다고 했다. 이에 대하여 해밀턴의 포괄 적합도 이론은 당사자에 끼친 영향뿐만 아니라 혈연자에게 끼친 영향도 포함시켜서, 개체는 자신의 포괄 적합도를 높이는 방향으로 선택된다고 이를 수정했다.


어떤 혈연과의 r 값은 그를 돕는 행동이 나 자신을 돕는 행동과 어느 정도나 같은지 나타낸다. 그러나 여기서 혈연이란 r 값을 플러스로 만들어주는 관계를 말하는 것이지, 일반적으로 생각하는 부모·형제의 혈연만 말하는 것이 아니다. 해밀턴은 ‘혈연선택(kin selection)’은 유전자 선택의 논리적 귀결로 양수의 근연도를 얻는 여러 방법의 하나일 뿐이며, 포괄 적합도라는 개념은 ‘혈연 선택’보다 더 포괄적이라고 했다. 해밀턴은 자연선택은 개체 수준도 아니고, 집단 수준도 아니며, 유전자 수준에서 일어난다고 했다. 그러므로 개체 수준에서 관찰되는 이타적 행동도 결국은 유전자 수준에서 자기 복제를 많이 퍼뜨리기 위한 행동으로 설명된다고 한 것이다.


9. 다윈의 자연선택설을 유전자 수준에서 설명을 가능하게 한 포괄 적합도 이론은 오늘날 현대 진화론에서 가장 주목받고 있는 이론이지만 비판도 있다.
‘사회생물학’(Sociobiology)을 창시한 학자로 꼽히는 에드워드 윌슨(Edward Wilson 1929~ )은 처음 해밀턴의 이론이 발표되었을 때는 이 이론을 지지했으나 나중에는 근본적으로 잘못된 이론이라 하여 비판적 입장으로 돌아섰다. 해밀턴의 규칙은 아주 제한된 가정하에서만 성립하므로, 엄밀한 수학적 모델이 아니라고 했다. 윌슨은 “혈연선택 개념과 포괄적합도의 허깨비 같은 속성들은 인간뿐 아니라 진사회성 곤충을 비롯한 다른 동물들에게도 극도로 제한적으로 적용된다”고 결론을 내리고 있다. 윌슨은 ‘한 집단 안에서는 이기적인 개체가 이타적인 개체를 이기지만, 이타주의 개체들의 집단은 이기적인 개체들의 집단을 이긴다’는 것이 기본 원칙이라고 했다. (에드워드 윌슨, 『인간 존재의 의미 지속 가능한 자유와 책임을 위하여』)


10. 리처드 도킨스(Richard Dawkins, 1941~)는 이러한 해밀턴의 이론을 이어받아 유전자의 관점에서 진화를 설명하고자 쓴 책이 『이기적 유전자』다.
그는 복합적 생물학적 적응은 유전자를 퍼트리기 위한 행동이며 후대에 복제본을 많이 남기는 유전자가 선택된다는 의미에서, 유전자가 ‘이기적’이라고 비유했다. 도킨스는 윌리엄 해밀턴의 '포괄적합도 이론’에 존 메이나드 스미스((John Maynard Smith,1920~ 2004)의 ‘게임이론’ 그리고 로버트 트리버스(Robert L. Trivers, 1943~ )의 ‘가족 내 갈등 및 상호이타성’ 등을 하나로 묶어 유전자 관점의 진화론을 만들었다.

 

『 이기적 유전자 』| 리처드 도킨스 지음 |홍영남·이상임 옮김|을유문화사 펴냄| 632 쪽


도킨스는 『이기적 유전자』에서 유전자는 지질학적 시간을 살아가는 존재이며 영원하다고 했다. 반면에 인간을 포함한 개체는 자기 복제를 위하여 이기적으로 행동하는 유전자에게 최선이라면 무엇이든지 실행하게 만들어진 맹목적인 운반체, 생존 기계라 표현하여 많은 비판을 받았다. 

 

이런 비판에 대하여 도킨스는 최근에는 유전 정보를 담고 있는 염색체에 불과한 유전자를 의인하여 마치 이기적으로 행동하는 것처럼 표현한 것은 자연선택이 개체나 집단에서 이루어지는 것이 아니고 유전자 단위로 이루어진다는 것을 설명하기 위한 것이며, 개체나 집단이 의미가 없다고 한 것은 아니라고 하면서 한발 물러섰다. 자신은 집단이나 개체의 독자성이나 개체의 삶 목표가 의미가 없다고 주장한 적은 없다고 했다.

그는 [이기적 유전자]라는 제목에 관하여도 자신의 책의 논지는 ‘이기적’보다는 ‘불멸’에 중요한 메시지를 담고 있다. 그래서 책 제목도 [이기적 유전자]보다는 [불멸의 유전자]로 바꾸고 싶다고 했다.

 

11. 도킨스는 유전자 진화 주장에서 한발 더 나아가 문화적 진화도 유전적 진화의 유사하다고 하면서 ‘밈’이라는 용어까지 만들어냈다.
그는 문화적 유전자를 표현하기 위하여 ‘모방’이라는 의미가 있는 헬라어 ‘mimeme’을 ‘유전자’를 뜻하는 영어 단어 ‘gen’e과 유사하게 발음하여 ‘밈meme’이라고 했다. 그는 자연세계에서 돌연변이에 의해 진화가 일어나듯이 문화에서도 문화적 돌연변이(cultural mutation)에 의해 진화가 일어난다고 했다.

 

“밈은 비유로서가 아니라 엄밀한 의미에서 살아 있는 구조로 간주해야 한다. 바이러스가 숙주 세포에 기생하면서 그 유전 기구를 이용하는 것과 같이 나의 뇌는 그 밈의 번식을 위한 운반자가 되어 버리는 것이다. 이것은 단순한 비유가 아니다. 예컨대 사후 세계에 대한 믿음이라는 밈은 수백만 전 세계 사람들의 신경계 속에 하나의 구조로서 존재하고 있다.” (도킨스, 『이기적 유전자』, 제11장 p. 323)


12. 그는 밈을 그의 무신론 주장을 뒷받침하는 이론으로 활용하고 있다.
신에 대한 관념이 어떻게 밈 풀 속에 생겨났는지는 분명하지 않지만 밈 풀 속에서 신의 밈이 나타내는 생존 가치는 그것이 갖는 강력한 심리적 매력의 결과라 했다.


“실존을 둘러싼 심원하고 마음을 괴롭히는 여러 의문에 그것은 표면적으로는 그럴듯한 해답을 준다. 그것은 현세의 불공정이 내세에서는 고쳐진다고 말한다. 우리의 불완전함은 영원한 신의 팔이 구원해 준다고 한다. 이는 마치 의사가 처방하는 위약과 같이 상상을 통해 그 효력을 갖는다. 이것이 신의 관념이 세대를 거쳐 사람의 뇌에 그렇게 쉽게 복사되는 이유 중 하나다. 인간의 문화가 만들어 내는 환경 속에서, 신은 높은 생존 가치 또는 감염력을 가진 밈의 형태로만 실재한다.”(ibid. p. 324)

 


13. 도킨스는 밈 복합체의 예로 종교적 맹신을 들고 있다.
그는 성경에서 예수님의 부활을 처음에는 의심했으나, 직접 만져보고 인정한 제자 도마에게 예수님께서 “너는 나를 본 고로 믿느냐 보지 못하고 믿는 자들은 복되도다”(요한복음 20:29)라고 하신 말씀의 예(Doubting Thomas)를 들어 “믿음이란 증거가 없어도 - 증거를 무시하고라도 - 맹신함을 의미한다.”고 했다.


“맹신이라는 밈은 이성적인 물음을 꺾어버리는 단순한 무의식적 수단을 행사하여 불멸의 존재가 되는 것이다. 맹신은 어떤 것도 정당화할 수 있다. 만약 어떤 사람이 다른 신을 믿고 있거나 같은 신을 믿더라도 다른 의식을 행한다면 맹신은 그 사실만으로도 그가 죽어야 한다고 선고할 수 있다. 맹신의 밈은 특유의 잔인한 방법을 통해 스스로 번식해 간다. 애국적 맹신이든 정치적 맹신이든 종교적 맹신이든 모두 마찬가지다.” (ibid. p. 331-332)

 


14. 도킨스의 무신론 주장과 반론은 이러하다. 
유전학자이며 신앙인인 프랜시스 콜린스는 그의 저서 [신의 언어]에서 종교는 전염병보다 더 큰 악이라 하면서 무신론 운동을 하는 도킨스의 주장을 크게 세 가지로 분류하여 다음과 같이 비판했다. (콜린스, 『신의 언어』, 제7장 ‘첫 번째 선택, 무신론과 불가지론’, ‘무신론을 말하다’ 중에서)


(주장 1) 진화는 인류의 생물학적 복잡성과 기원을 설명하기에 부족함이 없으니, 신이 끼어들 필요가 없다.
반론 : 진화론으로 생명의 기원을 다 설명할 수 없다. 도킨스는 본인 스스로 잘못 이해한 신을 세워놓고 그것을 게걸스럽게 해체하면서 무신론을 주장하고 있다. 이성에 근거하여 주장을 펴기보다는 다소 감정적인 사적 견해를 드러내고 있다.


(주장 2) 종교는 반이성적이다.  신앙은 사실이 아닌 줄 알면서도 맹목적으로 믿는 것이다. 
반론 : 아무리 과학이 발달해도 과학으로 증명할 수 없는 사실이 많다. 우주의 기원이나 생명의 기원은 신을 제외하고서는 도저히 설명이 안 된다. 자연선택과 DNA는 오히려 신이 자연을 다스리는 방법을 드러내 준다.


(주장 3) 종교라는 이름으로 심각한 해악이 저질러졌다. 
반론 : 종교가 없다고 해서 해악이 없어지지는 않는다. 종교를 부정하는 공산주의나 사회주의 국가에서 일어나는 폭력을 사태를 보면 알 수 있다. 인간이 사는 곳에서는 어디든지 해악이 존재한다. 겉이 녹슨 물병 속에 있는 맑은 물은 순수한 물인가 오염된 물인가? 물을 제대로 평가하려면 물병 속에 있는 순수한 물을 봐야지, 녹슨 물병만 보고 물이 오염되었다고 하면 안 된다.


흥미롭게도 도킨스는 모든 생물체의 존재를 설명하는 것은 바로 유전자와 그 유전자의 살아남으려는 쉼 없는 노력이라고 주장하면서도 우리 인간은 마침내 우리 유전자 명령을 거역할 수 있을 정도로 진화했다고 주장한다.  여기에 모순이 있다. 

 

도킨스는 신이 없는 진화로 인해 인간에게 맹목적이고 매정한 무관심이 부여되었다고 주장하지만, 인간사회에서 도덕법을 무시할 수 없음을 여전히 인정하고 있는 것이다. 과학에는 무신론이 필요하다는 도킨스의 주장에 담긴 피할 수 없는 큰 결점은 증명의 영역을 벗어난다는 점이다. 신이 자연 밖에 존재한다면(신이 자연을 만들었다면 신이 자연 속에 존재한다는 것은 모순이다) 과학은 신의 존재를 인정할 수도, 부정할 수도 없다. 무신론 자체도 그의 극단적인 과학주의 사상이 낳은 순수 이성을 옹호할 수 없는 믿음이라는 점에서 맹목적인 믿음의 한 형태로 보아야 한다. 

 


 

 

 

글 | 송윤강 편집위원

과학강연, 영화, 도서 등 과학 관련 리뷰를 기고하고 있다. 현재 아름다운서당에서 대학생들을 가르치고 있다.

댓글0