Bem, se nao tens ideia do que se ta a passar nela, podes começar com umas ferramentas de diagnostico especificas tipo:
Free Serial Port Monitor:
http://www.sharewareriver.com/products/17046.htm
"Free software serial port monitor, Com Rs232 sniffer with communication packet data analyzer. This monitoring utility can spy, capture, view, analyze, test com ports activity performing com port connection and traffic analysis with data acquisition and control. You can use this system as device interface testing tool, modem data transfer viewer and so on. Serial Monitor can be successfully used for monitoring data flow between serial devices and Windows application, debugging com port connections, developing, reverse-engineering and implementing serial protocol, serial device driver development, serial hardware development, research the functionality of any third-party software and hardware, testing software and hardware." (...)
Como segunda tentativa, nao é garantido que funcione, mas podes tentar fazer isto. Abres o Task Manager (ctrl alt del), separador "processes", organizas a lista por "user name" e vais fechando um a um dos processos com o nome do utilizador nessa altura, enquanto testas a porta COM da maneira que tavas a tentar usa-a (que nao disseste como). Se for algum desses programas que a estava a usar, ves qual foi o ultimo que fechaste e ficas a saber qual era. Tambem podes tentar fechar os processos que nao sao do utilizador, mas o mais certo é o windows nem deixar. No fim disto, quase de certeza que vais ter que reiniciar o pc.