关于添加数据的问题

我有一个表,里面有几十万条的数据.现在我想向表里添加一条数据,但是我需要判断一下,添加的数据是否存在,如果存在就更新,如果不存在就添加....现在遇到一个难题,如果每次填加数据都从数据库里面读一次是否存在的话,那添加大量数据时,就慢得不行了,不知道有没有其它方法来判断应该是更新还是填加呢,请赐教!谢谢!