债权转让无效时，法院应判决驳回诉讼请求，而非裁定驳回起诉。以下是对此问题的详细分析：
一、驳回起诉与驳回诉讼请求的区别

1. 驳回起诉：主要适用于原告主体不适格、法院无管辖权或起诉不符合法定条件等情形。它针对的是诉讼程序的启动问题，即原告是否具备提起诉讼的资格或条件。
2. 驳回诉讼请求：则发生在法院对案件进行实体审理后，认为原告的诉讼请求缺乏事实或法律依据，从而判决原告败诉。它针对的是原告的实体权利主张是否成立。
   二、债权转让无效时的处理
3. 债权转让无效的情形：根据《中华人民共和国民法典》第五百四十五条，债权转让可能因债权性质不得转让、当事人约定不得转让或法律规定不得转让而无效。此外，若债权转让未通知债务人，根据第五百四十六条，该转让对债务人不发生效力。
4. 无效的法律后果：债权转让无效时，受让人并未取得合法债权，因此其基于无效债权提起的诉讼，在实体上缺乏法律依据。此时，法院应判决驳回受让人的诉讼请求，而非裁定驳回起诉。因为案件已经进入了实体审理阶段，法院需要对债权转让的效力及受让人的权利主张进行实质性审查。
   三、特殊情况下的处理
   若债权转让无效是由于程序性问题（如未通知债务人）导致的，且该问题导致法院无法对案件进行实体审理（如债务人提出有效抗辩），法院可能会先裁定驳回起诉，要求受让人在解决程序性问题后重新起诉。但这种情况并不改变债权转让无效在实体上的性质，重新起诉后法院仍需对债权转让的效力进行审查，并可能再次判决驳回诉讼请求。