슬롯 사이트 | 우스터WPI (슬롯 사이트)의 컴퓨터 과학 및 데이터 과학 조교수는에서 $ 175,000를 받았습니다.국립 과학 재단데이터 발견 및 통합의 인간 측면을 면밀히 조사합니다. 연구 프로젝트는 자동화 된 시스템이 감지하지 못할 수있는 편향을 식별하고 해결하기 위해 데이터 준비 프로세스에 인간 참여의 중요한 역할을 탐구하는 것을 목표로합니다.
64881_65091
Shraga는 빠르게 성장하는 AI 공간에서 인간, 프롬프터 및 유효성 검사기로서 인간의 역할을 연구 할 것이며인지 심리학 문헌 및 기술을 사용하여 편견을 발견하여 인간이 데이터 발견에서 어떻게 생각하는지 이해할 것이라고 말했다. 컴퓨터 과학자, 코더 및 AI 플랫폼을 구축하는 다른 사람들의 암시 적 편견은 기술의 알고리즘에 영향을 줄 수있어서 감지되지 않거나 의도하지 않은 차별을 초래할 수 있습니다..
2 년간의 연구는 또한 큰 언어의 출현을 살펴볼 것입니다인공 지능Chatgpt와 같은 모델은 품질 결과를 보장하기 위해 실제로 인간의 참여가 더 필요할 수 있습니다. "인간-루프"라고 불리는이 개념은 인간의 관점이 기계 학습과 Chatgpt와 같은 대형 언어 인공 지능 모델에 어떻게 맞는지 살펴 봅니다.
보조금의 핵심 초점은 과학자들이 온라인에서 추가 소스를 찾아 데이터 세트를 확장하는 방법 인“테이블 조합 검색”입니다. 예를 들어, 의료에서 연구원은 더 강력하고 신뢰할 수있는 결과를 얻기 위해 더 집계 또는 비 식별 환자 데이터를 테이블 노조 검색을 수행 할 수 있습니다.
이러한 방법은 새롭지 않지만 프로세스는 종종 추가 데이터가 실제로 사용자에게 이익을 얻었는지 여부를 결정하기위한 후속 조치가 부족합니다. Shraga는“인간-루프”상호 작용과 인공 지능을 결합한 더 나은 프로세스는 연구자들에게 더 많은 데이터를 사용할 수 있다고 말했다.
Shraga는 그의 연구가 또한“환각”하거나 부정확하지만 그럴듯한 데이터를 생산하는 경향과 같은 대규모 모델의 기발한 점이 실제로 연구자들의 이점에 사용될 수있는 방법을 찾고 있다고 말했다. 실제 데이터 테이블을 생성하는 능력은 실제 데이터가 개인 정보 보호에 영향을 줄 수있는 응용 프로그램에서 중요합니다.
