인공지능이 가야할길 그리고 가지말아야 할길

인공지능이 인류를 위협한다는 것은 수 많은 SF 소설들에

등장하고 있습니다

SF 소설 " 2001 년 스페이스 오디세이 "에 등장하는 인공 지능 을 갖춘

가상의 컴퓨터인 HAL9000은 승무원을 제거하려하죠

터미네이터는 꾸준히 인간을 멸망시키려고 미래에서 오고요

이런곳에 나오는 인공지능은 상당한 수준의 판단능력을 가지고

인간보다 더 뛰어난 성능의 인공지능입니다

지금 개발하고 있는 단계의 인공지능은 AGI(Artificial General Intelligence)

입니다

하지만 언젠가는 인간보다 훨씬 똑똑한 존재인 ASI(Artificial Super Intelligence)가

개발되게 됩니다

지금도 인공지능을 가르치는 단계는 인간이 개입하지않고 딥러닝의 방식으로

인공지능끼리 가르치고 배우는 단계가 있지요

이 단계를 넘어서면 인간이 생각하지 못하는 수준의 지능에 접근하게 됩니다

많은 사람들이 인공지능이 인류에 재앙을 가져다 줄것으로 생각하고 있습니다

단기적으로는 도움이 될테지만... 장기적으로는 인간을 뛰어넘어설 가능성이

높기 때문이죠

2017년 1월 인공지능(AI, Artificial Intelligence)에 대한 연구를 지원하는 한

비영리단체가 주최한 콘퍼런스에서 저명한 IT 관계자들이 원칙을 만들었

습니다

바로 아실로마 AI 원칙(Asilomar AI Principles) 이라고 합니다

미국 캘리포니아주 아실로마에 모여서 회의를 했기 때문이라고 해요

제시한 원칙은 23가지 입니다

연구 이슈 (Research Issues)

• 연구 목표 : 인공 지능(AI) 연구의 목표는 지향하는 바가 없는 지능이

아니라 유익한 지능을 창출하는 것입니다.

• 연구비 지원 : AI에 대한 투자에는 다음과 같이 컴퓨터 과학, 경제,

법, 윤리 및 사회 연구 등의 어려운 질문을 포함한, 유익한 사용을

보장하는 연구를 위한 기금이 동반되어야 합니다.

미래의 인공 지능 시스템이 오작동이나 해킹없이 우리가 원하는

것을 수행할 수 있도록 매우 탄탄하게 만들 수 있는 방안은 무엇

입니까?

인류의 자원과 목적을 유지하면서 자동화를 통해 우리가 계속

번영할 수 있는 방안은 무엇입니까?

AI와 보조를 맞추고 그와 관련된 위험을 관리하기 위해 법률

시스템을 보다 공정하고 효율적으로 업데이트 할 수 있는 방안은

무엇입니까?

AI는 어떠한 가치들에 따라야 하며, 그것이 가져야 하는 법적,

윤리적 상태는 무엇입니까?

• 과학-정책 관계 : AI 연구자와 정책 입안자간에 건설적이고 건전한

교류가 있어야 합니다.

• 연구 문화 :AI 의 연구자와 개발자간에 협력, 신뢰, 투명성의

문화가 조성되어야 합니다.

• 경쟁 회피: AI 시스템을 개발하는 팀들은 안전 기준에 대한 질낮은

해결책을 피하기 위해 적극적으로 협력해야 합니다.

윤리와 가치 (Ethics and Values)

• 안전 : AI 시스템은 작동 수명 전반에 걸쳐 안전하고 안정적이어야

하며, 적용과 실현이 가능하다면 검증 할 수 있어야 합니다.

• 오류 투명성: AI 시스템이 해를 입히는 경우 그 이유를 확인할

수 있어야 합니다.

• 사법의 투명성 : 사법 결정에 있어 자동화된 시스템이 개입할 경우,

  권한있는 인간 기관이 감사할 수 있는 충분한 설명을 제공해야 합니다.

• 책임성: 고급 AI 시스템의 설계자와 제조자는 그것의 사용, 오용 및

행위의 도덕적 함의에 있어서, 그것을 형성할 책임과 기회가 있는

이해관계자 입니다.

• 가치의 준수 : 고도로 자율적인 AI 시스템은 그것이 작동하는

동안 목표와 행동이 인간의 가치와 반드시 일치하도록 설계되어야

합니다.

• 인간의 가치 : AI 시스템은 인간의 존엄성, 권리, 자유 및 문화 다양성의

이상과 양립할 수 있도록 설계되고 운영되어야 합니다.

• 개인 정보 보호 : AI 시스템이 개인정보 데이터를 분석하고 활용할

수 있는 경우, 사람들은 자신이 생성한 데이터에 접근해 관리 및

제어할 권리를 가져야 합니다.

• 자유와 개인 정보 : 개인정보에 대한 AI 의 적용이 사람들의 실제

또는 인지된 자유를 부당하게 침해해서는 안됩니다.

• 이익 공유 : AI 기술은 가능한 많은 사람들에게 혜택을 주고 역량을

강화해야 합니다.

• 공동 번영 : AI에 의해 만들어진 경제적 번영은 모든 인류에게

이익이 되도록 널리 공유되어야 합니다.

• 인간 통제 : 인간은 인간이 선택한 목적를 달성하기 위해, 의사

결정을 AI 시스템에 위임할 것인지 여부와 방법에 대해 선택할 수

있어야 합니다.

• 비전복 : 고도로 발전된 AI 시스템의 통제를 통해 부여되는

권력은 건강한 사회가 의존하는 사회적 시민적 과정을 전복하기

보다, 존중하고 개선해야 한다.

• AI 무기 경쟁 : 치명적인 자동화 무기의 군비 경쟁은 피해야

합니다.

장기적 이슈 (Longer-term Issues)

• 능력치에 대한 주의 : 합의가 없으므로, 미래 AI의 능력 상한선에

대한 강한 가정은 피해야 합니다.

• 중요성 : 고급 AI는 지구 생명체의 역사에서 중대한 변화를

나타낼 수 있으며, 그에 상응하는 관심 및 자원을 통해 계획되고

관리되어야 합니다.

• 위험 요소 : AI 시스템이 초래하는 위험, 특히 치명적인 또는 실존적

위험은 예상되는 영향에 상응하여 대비하고 완화 노력을 기울여야

합니다.

• 재귀적 자기 개선 : 질과 양을 빠르게 증가시킬 수 있도록 스스로

개선 또는 복제할 수 있도록 설계된 AI 시스템은 엄격한 안전 및 통제

조치를 받아야 합니다.

• 공동 선 : 수퍼 인텔리전스는 광범위하게 공유되는 윤리적 이상에만

  복무하도록, 그리고 한 국가 또는 조직보다는 모든 인류의 이익을

위해 개발되어야 합니다.

최근 우리나라에서는 AI 무기 경쟁과 관련하여 KAIST가 한화시스템과

설립한 ‘국방인공지능융합연구센터’가 AI 무기 개발을 위한 것이라면서

유명 인공지능(AI) 연구자들이 한국과학기술원(KAIST)에 대한 보이콧을

선언했다가 해명을 듣고 이를 철회했던적이 있죠

인공지능 무기...

사실 인공지능이 가장 먼저 쓰일것으로 예상되는 곳이 무기이긴 합니다

뭐... 이건 개인이 막기는 힘들겠죠

군사기술이 첨단기술을 이끄는 점은 있어서 말이죠

그 다음으로 보편화되어 사용될 산업은 성 관련 산업일 것으로

예상되는데요

거의 기술 발전의 순서는 비슷할것 같습니다

인공지능이 정말 인류에게 복음으로 다가오려면....

기술이 발전하는 것을 항상 잘 감시해야할것 같습니다