페이스북메신저 앱 의 쳇해드 같은것을 말씀하시는거군요.

http://www.piwai.info/chatheads-basics/ 여기에서 어떻게 구현하는지에 대한 예제가 나와있습니다.

<uses-permission android:name="android.permission.SYSTEM_ALERT_WINDOW"/>

해당 퍼미션을 넣어주면 Window 에 View를 띄울 수 있습니다. 그리고 계속 떠있어야 하니 액티비티가 아닌 Service로 띄우셔야 합니다.