청각과 시각의 교차감각 매핑에 의한 소리 시각화 연구
A Sound Visualization Using Cross-Modal Mappings Between Auditory and Visual Sense
2
조회
0
다운로드
4
인용
0
참고문헌
키워드
초록
연구배경 청각-시각 교차감각은 서로 다른 두 감각 채널 간의 상호작용이다. 오늘날 미디어 환경은 멀티모달리티(multi-modality)가 강화되는 방향으로 발전하고 있다. 다양한 미디어 분야에서 청각과 시각의 상호작용성은 커뮤니케이션 효과와 사용자 몰입도를 증강하는 요인이다. 다가올 미디어 환경에서 청각과 시각의 서로 다른 두 감각 간의 상호작용성을 효과적으로 활용하기 위한 디지털 미디어에서의 소리-시각화 프레임워크 연구가 요구된다. 연구방법 먼저 공감각과 교차감각의 메커니즘에 대하여 고찰하였다. 다음 단계로, 사례통합분석 방법론으로 청각-시각 교차감각의 선행연구 패턴을 분석하여 청각-시각 교차감각의 속성을 도출하였다. 마지막으로, 청각-시각 교차감각의 속성을 적용한 청각–시각 관계에 관한 조합 매트릭스를 개발하였다. 연구결과 소리 속성 중 하나인 음고는 모든 연구에서 일관되게 명도와 관련이 있었다. 채도는 배음과 가장 관련이 있었으며 음고와 음량, 템포에 의해서도 영향을 받았다. 공감각과 일반인의 교차감각 모두에서 공통으로 정확히 일치하는 색의 정의는 단정할 수 없으나, 음악적 정서나 촉각적 심상 등의 공유된 감성을 매개로 하여 유사한 색채 반응이 나타나는 경향성을 확인하였다. 결론 지금까지 시청 공감각에 대한 연구는 제한된 조건과 일반화하기에 적은 표본으로 수행된 경우가 대부분이다. 본 연구는 다른 문화권과 다른 시기에 다양한 조건과 연구방법으로 수행된 연구들을 종합하여 공감각 속성 및 교차감각 패턴을 도출할 수 있었다. 또한, 이를 토대로 미디어를 이용한 소리 시각화에 있어서 청각-시각 정보의 조합 매트릭스를 활용한 소리-시각화 프레임워크를 제안하였다는 데 그 의의가 있다.
Abstract
Background Cross-modality of auditory and visual senses is the interaction between these two different sensory channels. Today media environments are evolving towards the reinforcement of multi-modality. In various fields using media, the interaction between hearing and sight is an element that strengthens communication effect and user’s immersion level. Therefore, it is needed to study the way to visualize sound for the coming digital media era, by analyzing the framework of interactions between two different senses: auditory and visual. Methods Firstly, we discussed about mechanisms of synesthesia and cross-modal integration. Then the cross-modal patterns of auditory and visual senses were analyzed by the cross-case analysis methodology. And the properties of cross-modality of auditory and visual senses was derived. Also, data applied with properties of audio-visual cross-modal integration was used to illustrate matching framework in variety of ways. Result Consistent association between pitch and brightness was found in all studies. Chroma had the biggest relevance to overtone and was also related to pitch, volume, and tempo. We could not define exact match of color sets for synesthesia and cross-modal integration. However, there was a tendency of showing similar color responses through shared emotional experiences from musical and tactile experiences. Conclusion Until now, most of the researches for audio-visual synesthesia were conducted with limited conditions and too small number of samples to generalize the result. In this study, however, we were able to derive the pattern of synesthesia and cross-modal integration by combining studies performed under variety of conditions and methods. These studies were conducted in different cultural areas and times. Also, based on gathered data, we could study the way to visualize sound from media. Various frameworks for mapping auditory data with visual data were used.
참고문헌 (26)
- 김용철, "공감각의 형성요인에 관한 연구 : 촉감, 음감, 색감의 관계성을 중심으로", 박사, 광고홍보학, pp.2005
- 양혜린, "3D-Touch 인터페이스에서 지각된 촉각-시각 모달리티의 일치성이 사용자 인지반응에 미치는 영향", 한국HCI학회 학술대회, pp.110~112 (2016)
- 이윤정, "영화에서의 사운드 역할과 분석 - “인셉션”을 중심으로 -", 디지털디자인학연구, 12(4), pp.221~230 (2012), 한국디지털디자인학회[DOI]
- 이재현, "뉴미디어 이론" (2013), 커뮤니케이션북스
- 황지영, "전자음향의 시각화에 관한 연구", 한국공학예술학회 논문지 (2011)
- Cruzes, D. S., "Case studies synthesis: a thematic, cross-case, and narrative synthesis worked example", Empirical Software Engineering, 20(6), pp.1634~1665 (2015)
- Cytowic, R. E., "Synesthesia: A Union of the Senses" (2002), MIT
- de Thornley Head, P., "Synaesthesia: pitch-colour isomorphism in RGB-space?", Cortex, 42(2), pp.164~174 (2006)
- Giannakis, K., "A comparative evaluation of auditory-visual mappings for sound visualisation", Organised Sound, 11(3), pp.297~307 (2006)
- Haack, P. A., "A case study of a chromesthetic", Journal of Research in Music Education, 29(2), pp.85~90 (1981)
- Herriott, R. E., "Multisite qualitative policy research : Optimizing description and generalizability", Educational researcher, 12(2), pp.14~19 (1983)
- Manovich, L., "뉴미디어의 언어" (2014), 커뮤니케이션북스
- Martino, G., "Synesthesia : Strong and weak", Current Directions in Psychological Science, 10(2), pp.61~65 (2001)
- Marks, L. E., "On colored-hearing synesthesia : cross-modal translations of sensory dimensions", Psychological bulletin, 82(3), pp.303~331 (1975)
- "Processing – Generative Design Tutorials" (2016)[URL]
- Maryon, E., "The Science of Tone-Color" (1924), CC Birchard & Co
- McLuhan, M., "미디어의 이해" (2002), 민음사
- Palmer, S. E., "Music–color associations are mediated by emotion", Proceedings of the National Academy of Sciences, 110(22), pp.8836~8841 (2013)
- Ramachandran, V. S., "뇌는 어떻게 세상을 보는가" (2006), 바다출판사
- Rogers, G. L., "Four cases of pitch-specific chromesthesia in trained musicians with absolute pitch", Psychology of Music, 15(2), pp.198~207 (1987)
- Sadato, N., "Activation of the primary visual cortex by Braille reading in blind subjects", Nature, 380(6574), pp.526~528 (1996)
- "Processing Cubes" (2016)[URL]
- Ward, J., "소리가 보이는 사람들" (2016), 흐름출판
- Ward, J., "Sound-colour synaesthesia : To what extent does it use cross-modal mechanisms common to us all?", Cortex, 42(2), pp.264~280 (2006)
- Yin, R. K., "사례연구방법" (2016), 한경사
- Yin R. K., "Community crime prevention: Does it work", pp.294~308 (1986), Sage