소식

Jun 17, 2023

Google의 사진 앱에서는 여전히 고릴라를 찾을 수 없습니다. 그리고 애플도 마찬가지다.

흑인 논란 8년 만에 지지

광고

지원 대상

이미지 분석 소프트웨어가 흑인을 고릴라로 잘못 분류했다는 논란이 있은 지 8년이 지났고 컴퓨터 비전의 큰 발전에도 불구하고 거대 기술 기업들은 여전히 ​​실수를 반복하는 것을 두려워하고 있습니다.

니코 그랜트(Nico Grant)와 카슈미르 힐(Kashmir Hill)

Google이 2015년 5월에 독립형 사진 앱을 출시했을 때 사람들은 그것이 무엇을 할 수 있는지에 열광했습니다. 이미지를 분석하여 그 안에 있는 사람, 장소, 사물에 라벨을 지정하는 것은 당시로서는 놀라운 소비자 서비스였습니다. 그러나 출시 후 몇 달 후, 소프트웨어 개발자인 Jacky Alciné는 Google이 자신과 친구의 사진에 흑인인 "고릴라"라는 라벨을 붙였다는 사실을 발견했습니다. 비유.

이어진 논란에서 구글은 자사 소프트웨어가 포토에 있는 모든 것을 고릴라로 분류하는 것을 막았고 문제를 해결하겠다고 다짐했다. 8년 후, 인공 지능이 크게 발전하면서 우리는 Google이 문제를 해결했는지 테스트하고 경쟁사인 Apple, Amazon 및 Microsoft의 유사한 도구를 살펴보았습니다.

Apple, Google, Amazon 및 Microsoft가 만든 사진 앱은 인공 지능을 사용하여 점점 더 커지는 사진 컬렉션에서 특정 항목을 검색하고 특정 추억을 정확히 찾아낼 수 있습니다. 8,000개의 이미지 중에서 동물원에서의 하루를 찾고 싶으신가요? 앱에 물어보세요. 그래서 검색 기능을 테스트하기 위해 큐레이팅했습니다.이미지 44개사람, 동물, 일상 사물이 특징입니다.

우리는 Google 포토로 시작했습니다. 우리 컬렉션을 검색했을 때고양이그리고캥거루, 우리의 검색어와 일치하는 이미지를 얻었습니다. 이 앱은 대부분의 다른 동물을 잘 인식했습니다.

그런데 우리가 찾아보니고릴라, Google 포토에서 이미지를 찾지 못했습니다. 검색 범위를 다음으로 확대했습니다.비비, 침팬지, 오랑우탄그리고원숭이,우리 컬렉션에 이 모든 영장류의 이미지가 있었음에도 불구하고 여전히 실패했습니다.

그런 다음 Google의 경쟁사를 살펴보았습니다. 우리는 Apple Photos에도 동일한 문제가 있음을 발견했습니다. 대부분의 영장류를 제외한 특정 동물의 사진을 정확하게 찾을 수 있었습니다. 우리는 다음에 대한 결과를 얻었습니다고릴라,하지만 Gorilla Tape 이미지와 같이 사진에 텍스트가 표시된 경우에만 해당됩니다.

Microsoft OneDrive의 사진 검색에서는 우리가 시도한 모든 동물에 대해 공백이 그려졌습니다. Amazon Photos는 모든 검색에 대한 결과를 표시했지만 지나치게 포괄적이었습니다. 우리가 검색했을 때고릴라,앱은 영장류의 동물원을 보여주었고 다른 동물들에게도 그 패턴을 반복했습니다.

한정되지 않은

Google과 Apple이 인식할 수 있었던 영장류 중 한 종은 여우원숭이였습니다. 여우원숭이는 영구적으로 놀란 표정을 짓고 꼬리가 긴 동물로 인간과 엄지 손가락을 마주보지만 유인원보다 더 먼 친척 관계입니다.

Google과 Apple의 도구는 이미지 분석에 있어 가장 정교한 도구였습니다.

그러나 전 세계 대부분의 스마트폰을 뒷받침하는 안드로이드 소프트웨어를 운영하는 구글은 공격적인 실수를 저지르고 사람을 동물로 낙인찍을 것을 두려워하여 영장류를 시각적으로 검색하는 기능을 끄기로 결정했습니다. 그리고 우리 테스트에서 Google과 유사한 기술을 갖춘 Apple은 원숭이와 유인원을 찾는 기능도 비활성화하는 것으로 나타났습니다.

소비자는 이러한 검색을 자주 수행할 필요가 없을 수도 있습니다. 하지만 2019년에 한 iPhone 사용자는 Apple 고객 지원 포럼에서 소프트웨어가 "내 기기의 사진에서 원숭이를 찾을 수 없다"고 불평했습니다. 그러나 이 문제는 컴퓨터 비전(시각적 이미지를 해석하는 기술)과 AI로 구동되는 다른 제품에 의존하는 서비스에 숨어 있는 수정되지 않거나 수정 불가능한 다른 결함에 대한 더 큰 의문을 제기합니다.

Alciné 씨는 Google이 아직 문제를 완전히 해결하지 못했다는 사실을 알고 실망했으며 사회가 기술에 너무 많은 신뢰를 쏟고 있다고 말했습니다.

“나는 이 AI를 영원히 믿지 않을 것입니다.”라고 그는 말했습니다.