행동 인터넷(IoB): 우리가 AI를 훈련시키고 있는 것일까요, 아니면 AI가 우리를 훈련시키고 있는 것일까요?

AI는 어떻게 작동하고 행동에 영향을 줄까요?

저는 인터넷에서 DIY 동영상을 제작하는 일을 하고 있는데 제 손이 두드러지게 등장하는 동영상이 Twitter에서 "민감한 콘텐츠"로 분류될 수 있다는 사실을 알고 있습니다. 그 이유가 뭘까요? 아마도 선의의 AI는 그러한 동영상에서 피부색의 비율을 뭔가 좋지 않은 표시로 감지하고 다른 사람들에게 이에 대해 경고할 필요가 있다고 느끼는 것 같습니다.

동영상 제작자가 이 트리거를 피하기 위해 복잡한 작업을 하는 동안 장갑을 낀 손을 자주 등장시키는 것은 일반적인 현상입니다. 다소 당황스럽긴 하지만 AI의 잘못된 유도에 대한 논리적인 대응입니다. Twitter가 동영상을 분석하는 것처럼 사물 인터넷(IoT)은 광범위한 실제 데이터를 수집하여 우리가 검사를 위해 "현실 세계"에서 무엇을 하고 있는지 직관적으로 파악합니다.

이 데이터가 통합되고 우리와 상호 작용하는 방식을 행동 인터넷(IoB)이라고 합니다. AI는 정보를 활용하여 우리에게 더 나은 서비스를 제공하기 위해 시간이 지나면서 점점 훈련될 것입니다.

그러나 우리는 다음과 같이 질문해야 할 것입니다. 우리는 AI를 우리가 원하는 결과에 맞게 훈련시키는 것일까요, 아니면 AI가 최선이라고 생각하는 일을 하도록 훈련시키는 것일까요?

전 세계의 정보를 손쉽게 활용할 수 있으므로 아마도 AI가 가장 잘 알고 있을 것입니다. 또는 인간이 더 잘 처리할 수 있는 것처럼 보이는 미묘한 맥락의 단서와 가치 판단을 제외하고, 이는 인간이 기계 지배자를 극복하기 위해 고군분투하는 다양한 SF 작품의 서막이 될 것입니다. 아마도 다양한 AI 화신은 실제로 해당 회사의 최대 이익을 위해 작동해야 할 것입니다.

그렇다면 데이터 기반 AI는 인간 행동에 좋은 영향을 미치는 것일까요, 아니면 잘못된 길을 걷고 있는 것일까요? 이 질문에 확실하게 답하는 것은 불가능할 수도 있지만 이미 IoB를 가능하게 만든 몇 가지 기술을 살펴봄으로써 사고 과정을 시작할 수 있습니다.

또한 비즈니스 인터넷이란 무엇인지에 대한 보다 광범위한 설명을 확인할 수 있습니다.

행동 인터넷(IoB) 이면의 기술

IMU(관성 측정 장치): 휴대 전화를 집어 드는 것부터 산책하는 것까지 모든 움직임을 감지합니다.

GPS: 지구상에서의 위치를 감지합니다.

블루투스 비콘(Bluetooth Beacon): 광고 및 실내 내비게이션과 같은 작업을 위해 BLE(블루투스 저에너지)로 스마트폰에 Ping을 보냅니다.

비전 센서(카메라): 안면 인식 및 기타 용도로 사용할 수 있는 사진 및 동영상을 촬영합니다.

마이크: 한때는 "전화"의 기본 입력 요소였으나 여전히 음성 통신 및 수동적 청취에 사용됩니다.

이 기술의 공통 분모는 무엇일까요? 이러한 센서는 모두 스마트폰에 내장되어 있으며, 이는 우리의 집단적 IoB 존재를 위한 주요 통로인 것으로 보입니다.

IoB 지식은 일반적인 웹/소셜 미디어/쇼핑 내역뿐 아니라, "기존" IoT 장치(예: 캠, 대시 버튼, 스마트 잠금 장치 및 벨소리)의 입력을 통해 전화 데이터를 수집하여 행동 모델을 생성할 수 있습니다.

IoB: 행동에 대한 영향

IoB 지식에 따라 현재 수행 중인 작업과 수행 가능한 작업이 모두 결정되는 경우 IoB를 최대한 사용할 경우 어떤 이점이 있는지 고려합니다. 행동에 영향을 미치는 것은 다음 논리적 단계입니다.

소비자 행동: 비즈니스 관점에서 IoB의 가장 확실한 사용은 구매를 장려하는 것입니다. 조카의 생일 즈음에 장난감 매장에 들르셨나요? 어쩌면 여러분의 휴대 전화에 마법처럼 쿠폰이 나타나 여러분의 후원을 독려할 수도 있습니다. 방금 레스토랑에서 나오셨나요? 휴대 전화에서 여러분의 개인 IoB 모델에 제공할 리뷰를 요청할 수 있습니다.

건강 지표: IoB 앱에서 손목에 있는 스마트 워치 형태의 하드웨어와 주머니에 있는 IMU 모니터링을 통해 한 위치에 머물렀던 시간을 측정하여 간헐적으로 스트레칭하도록 안내할 수 있습니다. 문제가 발견되면 앱에서 의사와 상담하라고 제안할 수도 있습니다. 개인 건강을 위한 센서 사용에 대해 자세히 알아보십시오.

자동차 보험료: IMU와 GPS 데이터는 통신을 통해 어디에서 얼마나 멀리, 얼마나 공격적으로 주행하고 있는지 공유할 수 있습니다. 그런 다음 이 데이터를 활용하여 보험 위험을 정확히 파악하고 조치를 기반으로 보험료를 추정할 수 있습니다. 즉흥적인 드래그 레이스에 대해 다시 생각하거나 과속으로 주행하는 것이 그만한 가치가 있는지 생각하는 기회가 될 수 있습니다.

더 나은 금융 습관: 여러분의 최대 이익에 중점을 둔 AI는 더 많은 돈을 저축하거나 신체적, 금전적 이익을 얻기 위해 자전거 타기를 시작하도록 격려할 수 있습니다. 불행히도 이는 구매를 장려할 필요성과 상충될 수 있습니다. 다양한 IoB의 우선 순위에 따라 이 문제를 해결하는 방법이 결정되어야 합니다.

영향을 주는 실제 언어 및 움직임: 온라인 검열과 올바른 행동 방침에 대해 상당한 소란이 일어났습니다. 하지만 AI가 여러분의 움직임과 행동을 추적한다는 이유로 특정 정치인이 연설하는 것을 보러 가지 않거나 친구에게 생각하는 바에 대해 메시지를 보내지 않는다고 상상해 보십시오. 어쩌면 휴대 전화가 듣고 있다는 이유로 중요한 문제에 대한 논의를 중단하고 "비공개"로 설정할 수도 있습니다. 수동적으로 시청하는 뉴스 매체를 추적할 수도 있습니다(스마트 TV 또는 마이크 신호를 통해). 따라서 어떤 문제에 대해 독자적인 의견을 갖는 것이 조사 대상이 될 수 있습니다.

이러한 잠재적인 IoB 영향은 표면적으로는 긍정적일 수 있지만 개인적인 차원에서는 중요한 문제가 됩니다. 사회적으로 볼 때 상당히 무겁게 다가오는 문제입니다. 진짜 문제는 누가 또는 무엇을 통제하는가 하는 것입니다. 개인이 운전석에 앉을 수 있도록 시스템을 설계할 때 고려해야 할 사항은 무엇일까요? 사용할 IoB 애플리케이션을 선택할 때는 어떨까요?

여기에 몇 가지 아이디어가 있습니다.

1. 개인의 특정 이익을 위해 작동합니다. IoB에서 반복되는 주제는 데이터 기반 지혜가 종종 우리로 하여금 무언가를 구매하도록 만든다는 것입니다. 예를 들어 이는 건강한 콜레스테롤 수치를 유지하기 위한 제약사의 조언에 영향을 미칠 수도 있고, 여러분이 걷고 있는 거리의 아이스크림 가게에서 불필요한 수백 칼로리를 구매하도록 유혹하는 메시지를 표시할 수 있음을 의미할 수 있습니다. 이러한 영향을 줄이기 위해 "AI 비서"가 여러분의 최대 이익을 위해 앱을 감시한다면 어떨까요? 이는 높은 수준의 신뢰와 맞춤형이 필요한 솔루션입니다.

이러한 솔루션은 무료로 사용할 수 없으며 소비자는 데이터가 아닌 돈으로 기꺼이 지불해야 합니다. 하나의 사회로서 우리는 이런 식으로 돈을 쓰는 데 익숙하지 않으며 그렇게 될 것이라고 낙관하지도 않습니다. 이러한 경우를 제외하고 애플리케이션을 개발하거나 사용할 때 최소한 이러한 동기를 염두에 두어야 합니다.

2. 사람들의 노출을 제한하지 마세요. 특정한 일상을 고수하는 것이 가장 편안할 수 있지만 사람, 장소 및 사물과의 우연한 만남은 새롭고 흥미로운 경험을 가져올 수 있습니다. 이론적으로 우리의 편안함과 웰빙을 극대화하도록 훈련된 AI에서 이러한 무작위성을 관리하는 것은 반드시 고려해야 할 사항입니다.

3. 정확하되 지나쳐서는 안 됩니다. AI를 신뢰하여 최대 이익을 찾는 것은 믿음이 필요하지만 만약 잘못된 경우 어떻게 될까요? 데이터가 충분히 개발되지 않아 올바른 결정을 내릴 수 없는 영역으로 사람들을 유도한다면 어떨까요? 피드백이 한 영역에서 정확하지 않다고 가정합니다(예: 맨손을 민감한 것으로 표시). 이 경우 건강 지표를 기준으로 의사를 방문하도록 안내하는 것과 같이 꼭 필요한 경우 신뢰하지 않게 될 가능성이 있습니다.

또 다른 AI 사례

저는 약속을 잡기 위해 휴대 전화를 꺼냈는데 사무장과 논의한 시간이 이미 선택된 것을 알게 된 경우가 두 번이나 있었습니다. 사용자 동의에 따라 Android 휴대 전화는 단말기에서 들려오는 대화를 녹음할 수 있는 권한이 있으므로 이런 일이 가끔 일어날 수 있습니다.

대신 iPhone을 사는 것을 고려해 봐야 할 것 같습니다. New Yorker 기사의 주제는 Apple의 향상된 개인 정보 처리를 언급하고 있습니다. 불행히도 이 기사는 거의 1년 전의 내용이며 Apple은 안전이라는 명목하에 최소한 이미지에서 불쾌감을 주는 콘텐츠를 스캔하는 것을 고려하고 있습니다.

새로운 이미지 스캔 제안을 감안할 때 미래에는 사람들이 가족 사진을 찍을 때 파란색 고무 장갑을 착용하게 되는 날이 올 수도 있습니다. 아니면, 휴대 전화가 메시지 없이 묻지 않고 정확한 약속 시간을 선택하는 것이 편리하고 유익하다고 사람들이 받아들이게 될 수도 있습니다. 결과적으로 AI는 공공 장소에서 맨손을 보이는 것이 사회적으로 용인하는 것으로 인식할 수 있습니다.

IoB 소프트웨어의 미래는 개인의 요구 사항을 고려하는 개발자에게 달려 있습니다. 그러나 소비자에게 달려 있기도 합니다. 우리는 집단 이익과 개인 이익 모두를 위해 작동하는 앱의 우선 순위를 정해야 할 필요성을 이해해야 합니다.