AI의 대답을 너무 믿는 위험 | 올바른 AI의 대답、잘못된 의사 결정을 내리는 이유

AI를 사용하면、언제든지 합리적이고 정확한 대답을 얻을 수 있습니다.。

그런 감각을 가진 사람이、조금씩 늘어나는 것 같아。

실제、현재 AI는 매우 편리합니다.。문장을 쓰거나、정보를 정리하거나、아이디어를 내거나、여러 옵션을 비교할 수 있습니다.。전문 테마라도、어느 정도의 조건을 입력하면、단시간에 근육이 통과한 답변을 돌려준다。

나 자신도 AI를 일상적으로 사용하고 있습니다.、그 능력을 부정하지 않을。

그러나 최근、한 프로젝트와 관련하여、AI를 의사 결정에 사용할 때、매우 중요한 문제를 실감한。

그것은、

AI의 답변 자체가 잘못 된 것은 아니지만、그 대답으로、지금까지 시간이 지남에 구축되었습니다.、쉽게 부정 될 수 있음

그렇다.。

이것은 "AI는 신뢰할 수 없다"는 이야기가 아니다.。

오히려、인공 지능이 우수하기 때문에 발생하는 문제라고 생각합니다.。

AIは、그 사람이 쌓아온 시간을 모른다

한 프로젝트를 진행할 때、밖에서 보면 하나의 작업으로 보이더라도、그 뒷면에는 많은 판단이 쌓여있다.。

명칭 결정。

웹상에서의 표기를 통일한다。

정보를 쉽게 검색할 수 있는 상태로 만들기。

SNS와의 도선을 생각한다。

발신할 내용 정리。

앞으로 어떤 상대에게 정보를 전달할지 생각。

필요한 자료 만들기。

미래의 전개를 가정하여、현재 선택을 결정。

이런 일은、하나 하나만 보면、그렇게 어려운 작업에는 보이지 않을 수 있습니다.。

그러나 실제로는、이들을 서로 관련시키면서、오랜 시간에 걸쳐 한 방향으로 쌓아 간다.。

그 과정에서、"왜 이런가"라는 이유도 존재한다。

단순히 기호로 결정한 것은 아닙니다.。

이전에 고려한 옵션을 버린 이유도 있습니다.。

일단 결정한 것을 변경하면、다른 부분에도 영향을 미칠 수 있음。

즉、완성된 것처럼 보이는 것 뒤에、보이지 않는 판단의 스택이 있습니다.。

그런데、거기에 AI가 들어온다.。

AIは、그 프로젝트가 시작될 때부터 보는 것은 아닙니다.。

누가 어떤 이유로 무엇을 결정했는지。

어떤 문제를 극복해 왔는지。

무엇을 희생해서、무엇을 우선시했는가。

어떤 선택을 고려한 결과、현재의 형태가 되어 있는가。

그런 경위를 모른다。

AI가 아는 것은、기본적으로상담자가 그 시점에서 입력한 정보이다。

여기를 이해하지 못하면、매우 위험한 일이 일어난다.。

"본인의 희망에 동참하는 답변"은、반드시 목적에 맞지 않는

AIは、상담자의 희망을 존중하고 답변。

이것은 당연한 일입니다.。

예를 들어、

「이런 일은 하고 싶지 않아」

라고 상담하면、AI는 "、하지 않아도 목적을 달성하려면 어떻게 해야 하는가?。

「이런 방법이 자신에게는 맞다고 생각한다」

그렇다면、그 방법의 장점과 실현 방법을 정리해 준다。

이것은 상담자에게 매우 유용합니다.。

그러나、여기에 하나의 함정이 있습니다.。

본인의 희망과、프로젝트의 목적은、반드시 일치하지는 않습니다.。

예、한 활동의 ​​목적이 "가능한 한 많은 사람들에게 알게하는 것"이었다고한다.。

반면에、본인은 "가능하면 사람 앞에 나가고 싶지 않다"는 희망이 있습니다.。

이 경우、

「사람 앞에 나오지 않고인지를 넓히는 방법」

AI에 상담하면、AI는 당연히、그 방향으로 방법을 생각。

답변으로 옳은。

그러나、

"그 방법은、가장 인지를 넓히는 방법인가?

라는 질문은 다르다.。

여기에、본인의 희망과 목적 사이에 트레이드 오프가 존재한다。

인공 지능이 상담자의 희망에 다가가는 것과、전체 프로젝트의 목적을 극대화하는 것은、동일하지 않음。

AI는 '상담자의 아군'이 되더라도、'프로젝트 전체 책임자'가 아님

여기는 매우 중요하다고 생각합니다.。

AI는 상담자의 생각을 정리할 수 있다。

반대 의견을 낼 수도 있다。

위험을 지적할 수도 있습니다.。

그러나、그 인공지능이 전체 프로젝트에 대한 책임을 지는 것은 아니다.。

그러니까、상담자가 어떤 부분에 대해 질문했을 때、AI가 그 부분에 대한 합리적인 답변을 반환하더라도、그것이 전체 프로젝트에 맞는 것은 아닙니다.。

예、특정 변경으로 인해 본인에게는 이점이 생깁니다.。

그러나、그 변화로、이미 구축된 다른 부분과의 무결성이 무너질 수 있습니다.。

AI가 거기까지 모르면、그 영향을 평가할 수 없다.。

이것은 AI의 능력 부족이라기보다、주어진 정보 범위의 문제이다。

"AI가 이렇게 말하고있다"는、의사결정의 근거가 되지 않는다

최근、조금 신경이 쓰이는 사용법이 있다。

자신의 생각에 대해 AI와 상담、그 대답을 보고、

「AI도 이렇게 말하고 있다」

생각하는 것입니다.。

물론、AI의 답변을 참고로 하는 것 자체는 문제 없다。

문제는、그것이 어느새、

"AI가 그렇게 말했기 때문에、자신의 생각은 맞다”

라는 인식으로 바뀌는 것입니다.。

AI는 판사가 아니다。

최종적인 정답을 판단하는 것도 아니다.。

입력된 조건에、그럴듯한 대답을 생성하는 것뿐。

게다가、그 조건에 상담자 자신의 추억이나 희망이 포함되어 있으면、그 전제를 바탕으로 대답。

그 결과、내 생각을 AI에 확인했을 뿐인데、"제3자로부터 객관적으로 인정받았다"라는 감각이 되어 버린다。

이것은 매우 위험하다고 생각합니다.。

'자신의 생각을 AI에 듣기'가 아니라、"자신의 생각을 의심하기 위해 AI를 사용"

AI를 효과적으로 사용한다면、질문 방법을 바꾸는 것이 좋습니다.。

"이 생각으로 괜찮습니까?"

뿐만 아니라、

"이 생각의 약점은 무엇입니까?"

"반대의 입장에서 보면 어떻게 되나요?"

“이 판단이 실패한다면、어디에 원인이 됩니까? "

“지금까지의 정책을 유지한 경우와 변경한 경우、각각 어떤 위험이 있습니까? "

라고 물어보자。

더 중요한 것은、

“이 판단에、내가 간과하는 전제가 있습니까? "

듣는 것입니다.。

그렇게 하면、AI는 자신의 생각을 긍정해주는 존재가 아니라、자신의 판단을 검증하기 위한 도구가 된다。

나는、그 사용법이 AI의 가치를 끌어낼 수 있다고 생각한다.。

쌓아 올리는 것보다、부수는 것이 더 쉽습니다.

무언가를 만드는 데 시간이 걸립니다.。

웹사이트 만들기。

정보 정리。

검색된 상태 만들기。

SNS 운영。

발신을 계속。

명칭과 디자인을 통일。

미래 배포를 고려하여 규칙을 결정。

이런 일은、하루에 완성되지는 않습니다.。

그러나、그것을 깨기 쉽다.。

하나의 판단을 바꾸다。

그때까지 통일해 온 것을 변경。

다른 방향으로 정책 전환。

그냥、쌓아 왔지만 일관성이 무너질 수 있습니다.。

게다가、부서진 직후에는、그 영향이 보이지 않는 경우가 많습니다.。

그러니까 무서워。

「지금 쪽이 좋을 것 같다」라는 한순간의 감각만으로는、그 변경으로 몇 달 후、몇 년 후에 무슨 일이 일어날 지까지 판단 할 수 없다.。

AI에 의한 「작은 성공 체험」에도 주의가 필요

또 하나、AI를 사용하는데 있어서 조심하고 싶은 일이 있다。

AI에게 질문하면、즉시 답변이 반환됩니다.。

그리고、그 대답을 실제로 시도하면、잘 작동할 수 있음。

문장을 깔끔하게 썼다.。

좋은 아이디어가 나왔다.。

문제가 즉시 해결되었습니다.。

이것이 성공 경험이 될 것입니다.。

그러면、

"AI에게 물으면 해결할 수 있다"

라는 감각이 강해진다。

이것은 편리한 반면、위험하다。

왜냐하면、AI가 잘하는 것은、주어진 문제를 정리하십시오.、후보를 내는 것그러니까。

무엇을 문제로 설정합니까?。

어디까지를 전제 조건으로 할 것인가。

원래、그 문제를 지금 해결해야 하는가?。

이에 따라 기존 계획에 어떤 영향을 미치는지。

이들은、인간측이 판단해야 한다。

AI가 옳은 대답을 했더라도、원래 질문해야 할 문제가 다르다면、결과적으로 잘못된 방향으로 진행될 수 있음。

'올바른 답변'과 '올바른 의사결정'은 다르다

이번、내가 가장 강하게 느낀 것은 이 차이였다。

AI의 대답은 맞습니다.。

적어도、주어진 조건에서 합리적이었다.。

그러나、그 대답을 그대로 채택하는 것이、전체 프로젝트에 맞는 것은 아닙니다.。

이것은、

'AI가 잘못됐다'가 아니라、"AI의 답변을 적용하는 범위를 잘못했다"

라는 문제라고 생각한다.。

AI는 매우 우수한 도구입니다.。

그러나、도구에는 사용 목적이 있습니다.。

카메라는 멋진 사진을 찍을 수 있습니다.。

그러나、카메라에 무엇을 찍을지 결정할 수 없습니다.。

똑같이、AI는 방대한 정보를 정리하고、생각하기 위한 재료를 제공해 준다。

그러나、

「무엇을 목적으로 하는 것인가」

「무엇을 지킬 것인가」

"무엇을 버리는가?"

「지금까지의 쌓아 올려 어디까지 유지할까」

라는 최종 판단까지 AI에 맡겨 버리면、이야기가 바뀐다.。

AI를 사용할수록、인간의 판단이 중요해진다.

AI가 진화할수록、인간은 판단하지 않아도 된다。

그렇게 생각하는 사람도 있을지도 모른다。

오히려 반대라고 생각。

AI가 우수할수록、

"어떤 답변을 채택할 것인가"

라는 인간측의 판단이 중요해진다。

AIは、여러 대답을 할 수 있다。

그 중 하나를 선택하는 것은 인간입니다.。

그리고、그 선택에는 책임이。

특히、이미 시간이 지남에 구축된 것에 대해서는、새로운 대답이 나왔다고해서、즉시 이전 정책을 부정할 필요가 없습니다.。

우선、

“이 새로운 제안은、지금까지의 방침과 모순되지 않는가?

"변경하면 무엇을 잃는가?"

「변경하는 것으로 정말 얻고 싶은 것을 얻을 수 있을까」

생각할 필요가。

AI는 '답'을 준다。그러나 '문맥'은 스스로 주어야 한다

결국、AI의 가장 큰 강점과 약점은 같은 곳에。

AI는 매우 많은 정보를 다룰 수 있습니다.。

그러나、그 정보를 주지 않으면、모르는。

장기간에 걸쳐 인간이 쌓아온 판단。

거기에 담긴 의도。

과거에 실패한 경험。

이전에 고려한 옵션。

인간 관계。

미래 목표。

그런 것은、질문에 들어가지 않으면 AI에 존재하지 않습니다.。

그래서 AI와 상담할 때、

“이 AI는、이 문제에 대해 어디까지 알고 있는가?

생각할 필요가。

그리고、모르는 부분이 크면、그 답변을 최종 판단에 사용해서는 안됩니다.。

AI 시대에 필요한 것은 "AI를 믿는 힘"이 아니다.

나는 인공지능을 신뢰하지 않는다.。

오히려、꽤 신용。

그러니까、AI에 모든 것을 맡겨서는 안 된다고 생각。

AIは、생각하는 아주 좋은 도구입니다.。

그러나、AI가 내놓은 답변을 채택할지 여부는、인간이 판단해야 한다。

특히、오랜 시간에 걸쳐 누군가가 만들어 온 것을 변경한다면、

「AI가 그렇게 말했으니까」

대신、

"왜 변경하는가"

"무엇을 잃는가?"

「그 변경에 의해 목적 달성의 가능성은 정말 높아지는 것인가」

까지 생각할 필요가 있다。

AI의 답변이 올바른지 여부만으로는 충분하지 않습니다.。

그 대답을、지금、이 상황에서 사용하는 것이 맞습니까?。

거기까지 생각해 처음、AI를 사용한 의사 결정이 될 것이라고 생각합니다.。

이번 경험을 통해、나는 다시 그렇게 느꼈다.。

AI는 맞다。

그래도、사용법을 잘못하면、결과는 잘못된 방향으로 진행。

그리고、그 책임을 지는 것은 AI가 아니다.。

마지막으로 판단하는 것은、어디까지나 인간이기 때문에。

AI가 참조하는 정보는、반드시 옳은 것은 아니다.

또 하나、AI를 사용하는 데 잊어서는 안 될 수 있습니다.。

AI가 취급하는 정보량의 많음과、그 정보가 올바른지 여부는 또 다른 문제입니다.。

사진을 50년 계속해왔다。

오랫동안 사진을 찍으면、촬영 기술이나 장비에 대해、실제로 직접 시도했기 때문에 이해할 수 있습니다.。이론상 정확하더라도、실제 촬영 현장에서는 그대로가되지 않을 수도 있습니다.、반대로、오랜 실무 경험에서 "이것은 이런 조건에서는 사용할 수 없다"고 판단할 수 있는 경우도 있다。

그런데、인터넷에、사진을 시작하고 아직 그리 길지 않은 사람이、마치 오랜 경험이 있는 것처럼 단정적인 정보를 발신하고 있는 경우도 있다。

물론、경험 연수가 짧기 때문에、그 사람의 정보가 반드시 틀린 것은 아닙니다.。

문제는、실제로는 충분한 검증이 되지 않은 정보라도、SNS 등으로 크게 확산되면、많은 사람에게 참조되는 정보가 되어 버리는 것다。

그리고、AI가 그러한 정보를 학습·참조하는 경우、단순히 "많이 나오는 정보이기 때문에 옳다"고 판단하는 것은 아니다고 해도、인터넷에서 널리 유통되는 정보、답변의 자료로 나타날 수 있습니다.。

여기에도 주의가 필요하다。

예、한 사진 기술에 대해、경험이 적은 사람이 발신한 정보가 SNS에서 크게 확산되었다고 한다.。

그 정보가 실제로는 일부 조건에서만 성립하는 것이었다고 해도、인터넷에서 "올바른 정보"로 확산됩니다.。

그、AI에게 같은 테마에 대해 질문하면、그 인터넷에서 유통되는 정보와 일치하는 답변이 생성될 수 있음。

그러면 사용자는、

"AI도 같은 말을。역시 맞을 것이다"

생각한다.。

그러나、이것은 매우 위험한 순환입니다.。

인간이 발신한 정보가 확산。
광범위한 정보를 AI가 참조。
AI가 그것을 포함한 답변을。
그 대답을 본 사람이 「AI도 그렇게 말하고 있다」라고 생각한다。
그리고、그 대답은 인간의 정보 발신을 더욱 강화한다.。

이 순환이 일어나면、첫 번째 정보가 올바른지 여부와는 별도로、"정확하게 보이는 정보"가 강화 될 가능성이 있습니다.。

그러니까、AI의 대답을 보면、

"AI가 그렇게 말했기 때문에 맞다"

대신、

"그 정보에는、어떤 근거가 있는가?”

라고 생각할 필요가 있다。

특히 사진처럼、실제 경험이나 촬영 조건에 따라 결과가 크게 달라지는 분야에서는、그물에서 널리 말하는 것과、현장에서 실제로 성립하는 것이 일치하는 것은 아니다.。

50년 사진을 계속해온 내가 느끼는 것은、바로 이 부분이다。

AI는 매우 편리합니다.。

그러나、AI가 내놓은 대답과、자신이 오랜 경험을 통해 알고 있는 것이 틀렸을 때、적어도 한 번 멈춰야。

정보가 많고、정보가 정확하다는 것은 동일하지 않습니다.。

그리고、AI가 대답해 준 것과、현실 현장에서 옳은 일도、반드시 동일하지는 않습니다.。

AI를 사용하는 시대이기 때문에、정보의 '양'이 아니라、"근거"와 "문맥"을 보는 눈、그 어느 때보다 중요해지고。