로봇의 지배

 

'로봇의 지배'를 읽고 정리한 내용을 공유합니다.

이 책을 선택한 이유

AI 기술이 빠르게 발전하고 대두되고 있습니다. 앞으로 우리는 이러한 기술에 잡아먹히지 않고 더 나은 삶을 살아가기 위해 어떤 준비를 해야 할지 알기 위해 읽어보게 되었습니다.

 

[출처 : 교보문고]

책 소개

사라지는 일자리, 인공지능이 경제에 미칠 영향

과거와는 근본적으로 다르다

핵심 질문은 인공지능의 영향으로 초래한 고용 시장 혼란이 농업을 바꾼 농업 기술과 비슷한 결과로 이어질지다. 농업 기계화는 수백만 개의 일자리를 사라지게 했지만, 제조업 부문의 성장으로 노동자를 흡수할 수 있었다. 첫 번째는 인공지능은 전기와 다를 바 없이 체계적인 범용 기술이며, 따라서 궁극적으로 경제와 사회의 모든 측면으로 확장되고 스며들 것이다. 거의 모든 기존 산업에 촉수를 뻗어 변화시킬 것이고 미래에 새롭게 등장하는 산업은 처음부터 인공지능과 로봇공학의 최신 혁신을 포함할 것이다. 두 번째는 노동자들이 담당하게 될 활동의 성격과 관련이 있다. 20세기에 걸쳐 일어난 노동 절약형 기술의 발전으로 노동자들은 다른 부문으로 옮겨 갔지만, 대부분은 주로 단조로운 일을 계속했다. 하지만 이번에는 다르다. 일부 새로운 부문은 실직한 노동자를 수용할 만큼 단조로운 일자리를 많이 제공하지 않을 것이다. 지금까지 했던 일과 완전히 다른 일을 해야 하는 상황에 놓일 것이다. 새로운 일자리가 충분하다고 가정해도 일부 노동자는 성공적으로 옮겨 가겠지만 대부분은 큰 어려움을 겪을 것이다.

어떤 직업이 가장 안전할까?

• 중단기적으로 자동화의 영향을 가장 덜 받을 세 가지 분야
• 본질적으로 창의적인 직업
• 다른 사람과 의미 있고 복잡한 관계를 형성하는 데 큰 가치가 있는 직업
• 예상치 못한 환경에서 높은 이동성과 손재주, 문제 해결 능력을 요구하는 직업

중요한 것은 어떤 직업을 선택할지가 아니라 그 안에서 어떻게 자리 잡을지다. 인공지능이 발전할수록 고용 시장 전반에 걸쳐 단조롭고 ‘기본적인’ 활동은 대부분 사라지지만 창의적인 기술이 필요한 분야에 집중하거나 조직에 가치를 더하는 방편으로 광범위한 전문 네트워크를 활용할 수 있는 사람은 정상의 자리에 오를 것이다.

 

인공지능의 위험

딥페이크, 악의적 조작의 위험성

딥페이크는 인간을 속이기 위한 것이지만 문제는 머신러닝 알고리즘을 속이거나 제어하기 위해 데이터를 악의적으로 조작하는 것과 관련이 있다. 이런 ‘적대적 공격’에서는 특별히 설계된 입력이 공격자가 원하는 출력을 생성하도록 머신러닝 시스템에 오류를 일으킨다. 예를 들어, 정지신호에 4개의 작은 직사각형 모양의 흑백 스티커를 추가해 자율 주행차에 사용되는 이미지 인식 시스템이 정지신호를 시속 70킬로미터 속도제한 표시로 인식하도록 속인 경우다. 이처럼 생사가 걸린 중요한 결과를 쉽게 초래할 수 있다.

알고리즘의 발전으로 인간의 통제와 이해 벗어나

2013년, 한 물리학자 그룹이 금융시장을 연구한 논문을 <네이처>에 발표해 “약탈적 알고리즘을 특징으로 하는 경쟁 기계의 새로운 생태계”가 존재하고 알고리즘 거래는 시스템을 설계한 인간의 통제와 이해를 이미 벗어난 상태로 발전해 왔다고 밝혔다. 이제 알고리즘은 인공지능 분야의 최신 발전을 통합하고 시장에 대한 영향력이 극적으로 증가했으며 상호작용하는 방식은 이해할 수 없을 정도로 복잡해졌다. 예컨대 많은 알고리즘에는 블룸버그나 로이터 같은 회사가 제공하는 기계만 판독할 수 있는 뉴스 소스를 직접 활용하는 기능이 있고 이 정보에 근거해 1초를 다시 잘게 나눈 단위로 거래가 이루어진다. 초단기 매매의 경우, 인간의 알고리즘을 능가하려는 시도는커녕 무슨 일이 벌어지고 있는지 세부적으로 이해하려는 시작조차 하기 어렵다.

편향이 존재하는 알고리즘

최근 대기업에서 큰 인기를 얻고 있는 이력서 선별 시스템이 있다. 하지만 알고리즘을 훈련한 과거 채용 데이터가 채용 관리자의 공공연하거나 무의식적인 인종차별이나 성차별 성향을 반영한다고 가정해 보자. 머신러닝 시스템은 이것을 정상적인 학습 과정으로 거치기 때문에 자동으로 편향을 반복할 것이다. 알고리즘 개발자의 악의적인 의도가 없어도 학습 데이터 안에는 편향이 존재한다. 따라서 시스템이 기존의 편견을 계속 유지하거나, 심지어 증폭시키고 유색인종이나 여성에게 명백히 불공정한 결과를 가져다주게 된다.

 

 

낙관적인 미래를 위해서는 모두가 올바른 방향으로 가도록
노력해야 하는 것이 핵심이라고 생각합니다.
이 책은 AI 기술의 발전과 이에 따라 끼치게 되는
사회적 영향과 문제점을 깊이 있게 다루고 있습니다.
AI 기술에 대해 당장 현실적으로 생각해야 할 문제와 기술 발전의 과정을 자세히,
깊이 있게 알고 싶은 사람들에게 추천합니다.

 

 

AI 관련 책을 청랑이 추천합니다.

AI 2045 인공지능 미래보고서